Tutorials

How to Build AI Agents with Databricks in 3 Minuten: Schritt-für-Schritt-Anleitung

Melden

Künstliche Intelligenz entwickelt sich von reinen Chatbots hin zu autonomen Agenten, die Aufgaben planen, Werkzeuge (Tools) nutzen und Entscheidungen treffen können. Mit dem Mosaic AI Agent Framework von Databricks lässt sich ein produktionsreifer KI-Agent in Rekordzeit erstellen – inklusive nativer Anbindung an Ihre Unternehmensdaten und Governance via Unity Catalog.

Hier ist die Anleitung, wie Sie in 3 Minuten Ihren ersten Agenten bauen und bereitstellen.

Voraussetzungen (30 Sekunden)

  • Ein aktiver Databricks Workspace.
  • Zugriff auf den Unity Catalog (für Tools und Governance).
  • Ein Serverless Cluster oder ein aktives SQL-Warehouse.

Schritt 1: Werkzeuge (Tools) im Unity Catalog definieren (Minute 1)

Ein Agent benötigt Werkzeuge, um Aktionen auszuführen oder Daten abzufragen. In Databricks sind das einfache Python- oder SQL-Funktionen im Unity Catalog.

Erstellen Sie ein SQL-Tool, mit dem der Agent beispielsweise Verkaufsdaten abfragen kann:

CREATE OR REPLACE FUNCTION main.default.get_product_price(product_name STRING)
RETURNS FLOAT
LANGUAGE SQL
COMMENT 'Gibt den aktuellen Preis eines Produkts anhand des Namens zurück.'
RETURN 
  SELECT price FROM main.default.products WHERE name = product_name LIMIT 1;

Vorteil: Der Agent erbt automatisch die Zugriffsrechte (Data Governance) des Unity Catalogs.

Schritt 2: Den Agenten mit Python & MLflow definieren (Minute 2)

Nutzen Sie das Mosaic AI Agent Framework (kompatibel mit LangChain/LlamaIndex), um das LLM (z. B. Meta Llama 3 oder DBRX) mit Ihrem Tool zu verknüpfen.

Fügen Sie diesen Code in ein Databricks-Notebook ein:

import mlflow
from databricks.agents import set_agent_tools
from langchain.agents import create_openai_tools_agent, AgentExecutor
from langchain_community.chat_models import ChatDatabricks
from langchain_core.prompts import ChatPromptTemplate

# 1. LLM als Foundation Model Endpunkt definieren
llm = ChatDatabricks(endpoint="databricks-meta-llama-3-70b-instruct")

# 2. Tool aus dem Unity Catalog importieren
tools = set_agent_tools(names=["main.default.get_product_price"])

# 3. Prompt Template definieren
prompt = ChatPromptTemplate.from_messages([
    ("system", "Du bist ein hilfreicher Assistent. Nutze deine Tools, um Fragen zu Produktpreisen zu beantworten."),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

# 4. Agent erstellen
agent = create_openai_tools_agent(llm, tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=tools, verbose=True)

# 5. Agent in MLflow loggen
with mlflow.start_run():
    logged_agent_info = mlflow.langchain.log_model(
        lc_model=agent_executor,
        artifact_path="my_agent",
        registered_model_name="main.default.sales_agent"
    )

Schritt 3: Bereitstellen und Testen (Minute 3)

  1. Deployen:

    • Navigieren Sie im Workspace zu Catalog > Models und wählen Sie das soeben registrierte Modell sales_agent aus.
    • Klicken Sie oben rechts auf Serve this model (Model Serving).
    • Wählen Sie eine Serverless-Instanz. Databricks konfiguriert den Endpunkt automatisch mit Autoscaling.

  2. Testen im Review App Playground:

    • Nach der Bereitstellung bietet Databricks direkt eine integrierte Chat-Oberfläche (Agent Playground).
    • Geben Sie eine Frage ein, z. B.: „Wie viel kostet das Produkt 'Enterprise Cloud Suite'?“
    • Was passiert im Hintergrund:
      1. Das LLM erkennt den Bedarf für das Werkzeug get_product_price.
      2. Es ruft die Unity Catalog-Funktion mit dem Parameter 'Enterprise Cloud Suite' auf.
      3. Die Datenbank liefert den Preis zurück.
      4. Der Agent formuliert eine finale Antwort für Sie.

Fertig! Was Sie erreicht haben:

  • Ein reaktionsfähiger KI-Agent, der strukturierte Unternehmensdaten nutzen kann.
  • Full Governance: Jede Tool-Ausführung und Datenabfrage wird durch den Unity Catalog überwacht und auditiert.
  • Production-Ready: Der Endpunkt ist sofort über eine REST-API in Ihre Anwendungen integrierbar.
0