Pydantic AI

Pydantic AI là một framework agent Python mạnh mẽ được phát triển bởi đội ngũ đứng sau thư viện xác thực Pydantic nổi tiếng. Sứ mệnh cốt lõi của nó là hợp lý hóa việc phát triển các ứng dụng sẵn sàng cho sản xuất được cung cấp bởi AI Tạo sinh, mang lại trải nghiệm cho nhà phát triển trực quan và hiệu quả như FastAPI. Bằng cách tích hợp liền mạch với hệ sinh thái Python, nó cho phép các nhà phát triển xây dựng các agent AI phức tạp bằng cách sử dụng các luồng điều khiển, an toàn kiểu và các phương pháp hay nhất quen thuộc, vượt ra ngoài các tập lệnh đơn giản để tạo ra các hệ thống mạnh mẽ, có thể bảo trì.

Framework này về cơ bản là độc lập với mô hình, cung cấp hỗ trợ sẵn có cho một loạt các Mô hình Ngôn ngữ Lớn (LLM), bao gồm cả những mô hình từ OpenAI, Anthropic, Google (Gemini), Deepseek, Ollama, Groq, Cohere và Mistral. Sự linh hoạt này đảm bảo rằng các nhà phát triển không bị khóa vào một nhà cung cấp duy nhất và có thể chọn mô hình tốt nhất cho nhu cầu cụ thể của họ. Về cốt lõi, Pydantic AI khai thác sức mạnh của Pydantic Validation để thực thi các đầu ra có cấu trúc, đáng tin cậy và nhất quán từ các LLM, đây là một yêu cầu quan trọng đối với các ứng dụng sản xuất.

Cách sử dụng Pydantic AI

Bắt đầu với Pydantic AI rất đơn giản đối với bất kỳ nhà phát triển Python nào. Quá trình này bao gồm việc xác định một agent, các công cụ của nó và cấu trúc đầu ra mong đợi.

1. Cài đặt: Đầu tiên, cài đặt thư viện bằng pip: pip install pydantic-ai

2. Tạo một Agent đơn giản: Đối với một tương tác cơ bản, bạn có thể khởi tạo một `Agent` và chạy nó với một lời nhắc. Framework sẽ xử lý việc giao tiếp với LLM được chỉ định.

from Pydantic AI import Agent

agent = Agent(
    'google-gla:gemini-1.5-flash',
    system_prompt='Hãy ngắn gọn, trả lời bằng một câu.',
)

result = agent.run_sync('"hello world" đến từ đâu?')
print(result.output)

3. Xây dựng một Agent nâng cao với các công cụ: Đối với các tác vụ phức tạp hơn, bạn có thể xác định các đầu ra có cấu trúc bằng `BaseModel` của Pydantic, tạo các công cụ mà agent có thể sử dụng và tiêm các phụ thuộc. Ví dụ, một agent hỗ trợ ngân hàng có thể được trang bị một công cụ để kiểm tra số dư của khách hàng.

from pydantic import BaseModel, Field
from Pydantic AI import Agent, RunContext

# Xác định đầu ra có cấu trúc
class SupportOutput(BaseModel):
    support_advice: str = Field(description='Lời khuyên trả về cho khách hàng')
    block_card: bool = Field(description="Liệu có nên khóa thẻ của khách hàng không")

# Tạo agent
support_agent = Agent(
    'openai:gpt-4o',
    output_type=SupportOutput,
    system_prompt='Bạn là một nhân viên hỗ trợ tại ngân hàng của chúng tôi...'
)

# Xác định một công cụ mà agent có thể sử dụng
@support_agent.tool
async def customer_balance(ctx: RunContext, include_pending: bool) -> float:
    """Trả về số dư tài khoản hiện tại của khách hàng."""
    # ... logic để lấy số dư từ cơ sở dữ liệu ...
    return 123.45

# Chạy agent
result = await support_agent.run('Số dư của tôi là bao nhiêu?')
print(result.output)

4. Giám sát và Gỡ lỗi: Pydantic AI tích hợp liền mạch với Pydantic Logfire, cho phép bạn giám sát, gỡ lỗi và theo dõi hiệu suất cũng như hành vi của các ứng dụng LLM của mình trong thời gian thực với thiết lập tối thiểu.

Tính năng chính của Pydantic AI

• Độc lập với mô hình: Hỗ trợ một loạt các LLM bao gồm OpenAI, Anthropic, Gemini, Ollama, Groq, v.v., với một giao diện đơn giản để thêm các mô hình tùy chỉnh.
• Phản hồi có cấu trúc: Sử dụng Pydantic Validation để đảm bảo rằng các đầu ra của LLM được cấu trúc và xác thực một cách nhất quán theo một lược đồ đã xác định.
• Thiết kế an toàn về kiểu: Tận dụng các gợi ý kiểu của Python để cung cấp trải nghiệm kiểm tra kiểu mạnh mẽ và đầy đủ thông tin, giảm thiểu lỗi.
• Thiết kế lấy Python làm trung tâm: Cho phép xây dựng các agent AI bằng cách sử dụng luồng điều khiển và thành phần Python tiêu chuẩn, làm cho mã dễ đọc và dễ bảo trì hơn.
• Tiêm phụ thuộc: Một hệ thống tùy chọn để cung cấp dữ liệu và dịch vụ (như kết nối cơ sở dữ liệu) cho các agent, đơn giản hóa việc kiểm thử và phát triển.
• Phản hồi trực tuyến (Streaming): Hỗ trợ truyền liên tục các phản hồi của LLM với xác thực ngay lập tức, cho phép các ứng dụng thời gian thực.
• Tích hợp Pydantic Logfire: Cung cấp khả năng quan sát liền mạch để gỡ lỗi thời gian thực, giám sát hiệu suất và theo dõi hành vi.
• Hỗ trợ đồ thị (Graph): Bao gồm Pydantic Graph để xác định các luồng ứng dụng và máy trạng thái phức tạp, ngăn chặn mã lộn xộn trong các agent tinh vi.

Các trường hợp sử dụng Pydantic AI

Pydantic AI lý tưởng để xây dựng một loạt các ứng dụng AI cấp sản xuất:

• Tự động hóa Hỗ trợ Khách hàng: Tạo các chatbot thông minh có thể hiểu các truy vấn của người dùng, sử dụng các công cụ để truy cập dữ liệu khách hàng (ví dụ: trạng thái đơn hàng, số dư tài khoản) và thực hiện các hành động như khóa thẻ tín dụng hoặc tạo phiếu hỗ trợ.
• Công cụ Dữ liệu Nội bộ: Xây dựng các agent cho phép người dùng không chuyên về kỹ thuật truy vấn cơ sở dữ liệu hoặc API nội bộ bằng ngôn ngữ tự nhiên, tạo báo cáo hoặc lấy thông tin cụ thể.
• Agent Quy trình làm việc Tự động: Phát triển các hệ thống có thể xử lý dữ liệu phi cấu trúc (như email hoặc tài liệu), trích xuất thông tin liên quan và kích hoạt các hành động trong các hệ thống khác (ví dụ: tạo một tác vụ trong công cụ quản lý dự án).
• Lý luận phức tạp nhiều bước: Triển khai các agent có thể chia nhỏ một vấn đề phức tạp thành các bước nhỏ hơn, sử dụng các công cụ khác nhau cho mỗi bước và kết hợp các kết quả để cung cấp một câu trả lời toàn diện.

Ưu điểm của Pydantic AI

Ưu điểm chính của Pydantic AI là sự tập trung vào tính sẵn sàng cho sản xuất và trải nghiệm của nhà phát triển. Được xây dựng trên nền tảng vững chắc của Pydantic, nó mang lại sự tin cậy, khả năng dự đoán và khả năng bảo trì cho việc phát triển AI. Cách tiếp cận lấy Python làm trung tâm có nghĩa là các nhà phát triển không phải học một DSL hoặc mô hình mới, dẫn đến chu kỳ phát triển nhanh hơn. Thiết kế độc lập với mô hình cung cấp sự linh hoạt quan trọng, trong khi sự tích hợp chặt chẽ với Pydantic Logfire biến khả năng quan sát thành một công dân hạng nhất, điều này rất cần thiết để quản lý các hệ thống AI phức tạp trong sản xuất.

Giá cả và gói dịch vụ

Pydantic AI là một thư viện Python miễn phí, mã nguồn mở. Không có chi phí trực tiếp, đăng ký hoặc phí cấp phép liên quan đến việc sử dụng chính framework này. Người dùng chỉ chịu trách nhiệm về các chi phí phát sinh từ việc sử dụng API của các Mô hình Ngôn ngữ Lớn cơ bản (ví dụ: API OpenAI, Google AI Platform) mà họ chọn để tích hợp với các ứng dụng của mình.