Pydantic AI

Pydantic AI 是由著名的 Pydantic 驗證庫背後的團隊開發的一款功能強大的 Python 智能體框架。其核心使命是簡化由生成式 AI 驅動的生產級應用的開發流程，提供像 FastAPI 一樣直觀高效的開發者體驗。透過與 Python 生態系統的無縫整合，它允許開發者使用熟悉的控制流、類型安全和最佳實踐來建構複雜的 AI 智能體，從簡單的腳本升級為創建穩健、可維護的系統。

該框架在根本上是模型無關的，為包括 OpenAI、Anthropic、Google (Gemini)、Deepseek、Ollama、Groq、Cohere 和 Mistral 在內的眾多大型語言模型（LLM）提供了開箱即用的支援。這種靈活性確保了開發者不會被鎖定在單一供應商上，可以為他們的特定需求選擇最佳模型。Pydantic AI 的核心是利用 Pydantic 驗證的強大功能，強制 LLM 提供結構化、可靠且一致的輸出，這是生產應用的關鍵要求。

如何使用 Pydantic AI

對於任何 Python 開發者來說，上手 Pydantic AI 都非常簡單。該過程涉及定義一個智能體、其工具以及預期的輸出結構。

1. 安裝： 首先，使用 pip 安裝該庫： pip install pydantic-ai

2. 建立簡單智能體： 對於基本互動，您可以實例化一個 `Agent` 並透過提示運行它。框架會處理與指定 LLM 的通訊。

from Pydantic AI import Agent

agent = Agent(
    'google-gla:gemini-1.5-flash',
    system_prompt='簡潔回答，只用一句話。',
)

result = agent.run_sync('“hello world”出自哪裡？')
print(result.output)

3. 建構帶工具的高級智能體： 對於更複雜的任務，您可以使用 Pydantic 的 `BaseModel` 定義結構化輸出，建立智能體可以使用的工具，並注入依賴。例如，一個銀行支援智能體可以配備一個檢查客戶餘額的工具。

from pydantic import BaseModel, Field
from Pydantic AI import Agent, RunContext

# 定義結構化輸出
class SupportOutput(BaseModel):
    support_advice: str = Field(description='返回給客戶的建議')
    block_card: bool = Field(description="是否凍結客戶的卡")

# 建立智能體
support_agent = Agent(
    'openai:gpt-4o',
    output_type=SupportOutput,
    system_prompt='你是我們銀行的一名支援代理...'
)

# 定義一個智能體可以使用的工具
@support_agent.tool
async def customer_balance(ctx: RunContext, include_pending: bool) -> float:
    """返回客戶的當前帳戶餘額。"""
    # ... 從資料庫獲取餘額的邏輯 ...
    return 123.45

# 運行智能體
result = await support_agent.run('我的餘額是多少？')
print(result.output)

4. 監控與除錯： Pydantic AI 與 Pydantic Logfire 無縫整合，讓您能夠以最少的設定即時監控、除錯和追蹤 LLM 應用的性能和行為。

Pydantic AI 的核心功能

• 模型無關： 支援包括 OpenAI、Anthropic、Gemini、Ollama、Groq 在內的多種 LLM，並提供簡單的介面來新增自訂模型。
• 結構化響應： 利用 Pydantic 驗證來確保 LLM 的輸出始終是結構化的，並根據定義的模式進行驗證。
• 類型安全設計： 利用 Python 的類型提示，提供強大且資訊豐富的類型檢查體驗，減少錯誤。
• 以 Python 為中心的設計： 使用標準的 Python 控制流和組合方式建構 AI 智能體，使程式碼更具可讀性和可維護性。
• 依賴注入： 一個可選的系統，用於向智能體提供資料和服務（如資料庫連接），簡化了測試和開發。
• 流式響應： 支援 LLM 響應的連續流式傳輸和即時驗證，適用於即時應用。
• Pydantic Logfire 整合： 提供無縫的可觀察性，用於即時除錯、性能監控和行為追蹤。
• 圖支援： 包含 Pydantic Graph 來定義複雜的應用流程和狀態機，防止在複雜的智能體中出現「麵條程式碼」。

Pydantic AI 的使用案例

Pydantic AI 是建構各種生產級 AI 應用的理想選擇：

• 客戶支援自動化： 創建能夠理解用戶查詢、使用工具存取客戶資料（如訂單狀態、帳戶餘額）並執行操作（如凍結信用卡或建立支援工單）的智能聊天機器人。
• 內部資料工具： 建構智能體，允許非技術用戶使用自然語言查詢資料庫或內部 API，生成報告或獲取特定資訊。
• 自動化工作流智能體： 開發能夠處理非結構化資料（如電子郵件或文件）、提取相關資訊並在其他系統中觸發操作（如在專案管理工具中建立任務）的系統。
• 複雜的多步推理： 實現能夠將複雜問題分解為更小步驟、為每個步驟使用不同工具，並結合結果以提供全面答案的智能體。

Pydantic AI 的優勢特點

Pydantic AI 的主要優勢在於其對生產就緒性和開發者體驗的關注。基於 Pydantic 的堅實基礎，它為 AI 開發帶來了可靠性、可預測性和可維護性。其以 Python 為中心的方法意味著開發者無需學習新的領域特定語言或範式，從而加快了開發週期。模型無關的設計提供了關鍵的靈活性，而與 Pydantic Logfire 的緊密整合使可觀察性成為一等公民，這對於在生產中管理複雜的 AI 系統至關重要。

定價和計劃

Pydantic AI 是一個免費的開源 Python 庫。使用該框架本身不涉及任何直接成本、訂閱或授權費用。用戶只需承擔因使用其選擇整合的底層大型語言模型（例如 OpenAI API、Google AI Platform）的 API 而產生的費用。