Pydantic AI

Pydantic AI: Das GenAI Agent Framework

Pydantic AI ist ein Python Agent Framework, das entwickelt wurde, um den schnellen, zuverlässigen und nahtlosen Aufbau von produktionsreifen Anwendungen und Workflows zu erleichtern, die Generative AI nutzen. Es zielt darauf ab, das ergonomische Design von FastAPI in die GenAI Anwendungs- und Agentenentwicklung zu bringen.

Was ist Pydantic AI?

Pydantic AI ist ein Tool, das Entwicklern helfen soll, Anwendungen mit Generative AI schnell und effizient zu erstellen. Es nutzt Pydantic Validation und moderne Python-Funktionen, um eine reibungslose Entwicklungserfahrung zu bieten.

Hauptmerkmale:

• Entwickelt vom Pydantic Team: Direkter Zugriff auf die Quelle von Pydantic Validation, die in vielen beliebten AI SDKs verwendet wird.
• Modell-Agnostisch: Unterstützt eine breite Palette von Modellen und Anbietern, darunter OpenAI, Anthropic, Gemini und mehr. Benutzerdefinierte Modelle können ebenfalls einfach implementiert werden.
• Nahtlose Observability: Integriert sich in Pydantic Logfire für Echtzeit-Debugging, Performance-Monitoring und Kostenverfolgung. Unterstützt auch andere OpenTelemetry-kompatible Plattformen.
• Vollständig Typsicher: Entwickelt, um umfassenden Kontext für Auto-Vervollständigung und Typprüfung zu bieten, wodurch Laufzeitfehler reduziert werden.
• Leistungsstarke Evals: Ermöglicht systematisches Testen und Evaluieren der Agentenleistung und -genauigkeit.
• MCP, A2A und AG-UI: Integriert Standards für den Agentenzugriff auf externe Tools und Daten, die Interoperabilität mit anderen Agenten und den Aufbau interaktiver Anwendungen.
• Human-in-the-Loop Tool Approval: Ermöglicht das Kennzeichnen von Tool-Aufrufen, die vor der Ausführung eine Genehmigung erfordern.
• Durable Execution: Ermöglicht das Erstellen von Agenten, die den Fortschritt über API-Fehler und Anwendungsneustarts hinweg aufrechterhalten können.
• Streamed Outputs: Bietet kontinuierliches Streaming von strukturierten Ausgaben mit sofortiger Validierung.
• Graph Support: Bietet eine leistungsstarke Möglichkeit, Graphen mithilfe von Type Hints für komplexe Anwendungen zu definieren.

Wie funktioniert Pydantic AI?

Pydantic AI funktioniert, indem es ein Framework bereitstellt, das die Entwicklung von AI-Agenten vereinfacht. Es verwendet Pydantic-Modelle, um die Struktur der Ein- und Ausgaben des Agenten zu definieren, und es bietet Tools, um den Agenten mit verschiedenen LLMs und anderen Diensten zu verbinden.

Wie verwendet man Pydantic AI?

1. Installation: Installieren Sie das pydantic_ai Paket.

2. Grundlegende Verwendung: Erstellen Sie eine Agent Instanz mit dem angegebenen Modell und den Anweisungen.

   from pydantic_ai import Agent
   
   agent = Agent(
       'anthropic:claude-sonnet-4-0',
       instructions='Sei prägnant, antworte mit einem Satz.',
   )
   
   result = agent.run_sync('Woher kommt "hello world"?')
   print(result.output)
   """
   

Die erste bekannte Verwendung von "hello, world" war in einem Lehrbuch über die Programmiersprache C aus dem Jahr 1974. """ ```

3. Erweiterte Verwendung: Fügen Sie Tools, dynamische Anweisungen und strukturierte Ausgaben hinzu, um leistungsstärkere Agenten zu erstellen.

Für wen ist Pydantic AI gedacht?

Pydantic AI ist ideal für:

• Entwickler, die effizient GenAI-Anwendungen und -Workflows erstellen möchten.
• Teams, die robuste, typsichere und beobachtbare AI-Agenten benötigen.
• Projekte, die sich in verschiedene LLMs und Dienste integrieren müssen.

Tools & Dependency Injection Beispiel

Pydantic AI erleichtert die Dependency Injection, was nützlich ist, wenn Sie Daten oder Dienste in Ihre Tools injizieren müssen. Sie können Ihre Dependency-Klasse definieren und sie an den Agenten übergeben. Unten ist der Beispielcode für den Aufbau eines Support-Agenten für eine Bank mit Pydantic AI:

from dataclasses import dataclass

from pydantic import BaseModel, Field
from pydantic_ai import Agent, RunContext

from bank_database import DatabaseConn


@dataclass
class SupportDependencies:
    customer_id: int
    db: DatabaseConn


class SupportOutput(BaseModel):
    support_advice: str = Field(description='Advice returned to the customer')
    block_card: bool = Field(description="Whether to block the customer's card")
    risk: int = Field(description='Risk level of query', ge=0, le=10)


support_agent = Agent(
    'openai:gpt-5',
    deps_type=SupportDependencies,
    output_type=SupportOutput,
    instructions=(
        'You are a support agent in our bank, give the '
        'customer support and judge the risk level of their query.'
    ),
)


@support_agent.instructions
async def add_customer_name(ctx: RunContext[SupportDependencies]) -> str:
    customer_name = await ctx.deps.db.customer_name(id=ctx.deps.customer_id)
    return f"The customer's name is {customer_name!r}"


@support_agent.tool
async def customer_balance(
    ctx: RunContext[SupportDependencies], include_pending: bool
) -> float:
    """Returns the customer's current account balance."""
    return await ctx.deps.db.customer_balance(
        id=ctx.deps.customer_id,
        include_pending=include_pending,
    )

Instrumentierung mit Pydantic Logfire

Um Agenten in Aktion zu überwachen, lässt sich Pydantic AI nahtlos in Pydantic Logfire, OpenTelemetry Observability Plattform, integrieren, die Echtzeit-Debugging, Evals-basiertes Performance-Monitoring sowie Verhaltens-, Tracing- und Kostenverfolgung ermöglicht. Der Beispielcode:

...from pydantic_ai import Agent, RunContext
from bank_database import DatabaseConn
import logfire

logfire.configure()
logfire.instrument_pydantic_ai()
logfire.instrument_asyncpg()
...support_agent = Agent(
    'openai:gpt-4o',
    deps_type=SupportDependencies,
    output_type=SupportOutput,
    system_prompt=(
        'You are a support agent in our bank, give the '
        'customer support and judge the risk level of their query.'
    ),
)

Warum Pydantic AI wählen?

Pydantic AI bietet einen optimierten Ansatz für die Entwicklung von GenAI-Anwendungen. Seine Grundlage auf Pydantic Validation, modell-agnostischem Design, nahtloser Observability und typsicherer Umgebung macht es zu einer überzeugenden Wahl für Entwickler, die auf Effizienz und Zuverlässigkeit abzielen.

Nächste Schritte

Um Pydantic AI weiter zu erkunden:

• Installieren Sie Pydantic AI und folgen Sie den Beispielen.
• Lesen Sie die Dokumentation, um ein tieferes Verständnis zu erhalten.
• Überprüfen Sie die API Reference, um die Schnittstelle von Pydantic AI zu verstehen.
• Treten Sie dem Slack Kanal bei oder erstellen Sie ein Issue auf GitHub für alle Fragen.