smolagents

smolagents là một framework agent AI mang tính cách mạng, tối giản từ đội ngũ Hugging Face, được thiết kế để đơn giản hóa đáng kể việc tạo và triển khai các agent AI mạnh mẽ. Được xây dựng trên nguyên tắc đơn giản, codebase cốt lõi của nó chỉ khoảng 1.000 dòng, giúp các nhà phát triển dễ dàng tiếp cận. Sự đổi mới chính của framework là cách tiếp cận 'code-first' (ưu tiên mã lệnh), trong đó các agent tạo và thực thi các đoạn mã Python để thực hiện hành động, thay vì dựa vào các khối JSON hoặc văn bản kém linh hoạt hơn. Phương pháp này chứng tỏ hiệu quả hơn, giảm số bước và số lần gọi LLM khoảng 30% và đạt được hiệu suất vượt trội trên các benchmark phức tạp.

Framework được thiết kế để có sự linh hoạt và tích hợp tối đa. Nó hoạt động liền mạch với bất kỳ mô hình ngôn ngữ lớn nào, bao gồm các mô hình mã nguồn mở từ Hugging Face Hub thông qua Transformers, cũng như các mô hình độc quyền từ OpenAI, Anthropic và các hãng khác thông qua tích hợp LiteLLM. Điều này cho phép các nhà phát triển chọn mô hình tốt nhất cho nhiệm vụ cụ thể của họ mà không bị ràng buộc vào một hệ sinh thái duy nhất.

Cách sử dụng smolagents

Việc sử dụng smolagents được thiết kế để trở thành một quy trình trực quan cho các nhà phát triển quen thuộc với Python. Quy trình làm việc thường bao gồm ba bước chính:

1. Xác định Công cụ của bạn: Bước đầu tiên là tạo hoặc nhập các công cụ mà agent của bạn sẽ sử dụng. Một công cụ chỉ đơn giản là một hàm Python. Bạn có thể dễ dàng biến bất kỳ hàm nào thành một công cụ bằng cách sử dụng decorator `@tool`. Các công cụ này có thể thực hiện bất kỳ hành động nào, từ việc thực hiện các cuộc gọi API (như lấy dữ liệu di chuyển từ Google Maps) đến thực hiện các phép tính cục bộ.
2. Khởi tạo Agent: Khi bạn đã có các công cụ của mình, bạn tạo một phiên bản của một lớp agent, chẳng hạn như `CodeAgent`. Khi khởi tạo agent, bạn cung cấp cho nó danh sách các công cụ mà nó có thể sử dụng và chỉ định mô hình ngôn ngữ bạn muốn nó được cung cấp năng lượng (ví dụ: `HfApiModel()` cho các mô hình Hugging Face).
3. Chạy Agent: Với agent đã được thiết lập, bạn có thể giao cho nó một nhiệm vụ bằng phương thức `.run()` và một lời nhắc bằng ngôn ngữ tự nhiên. Agent sau đó sẽ tự động suy luận, viết mã Python để sử dụng các công cụ được cung cấp, thực thi mã và lặp lại cho đến khi hoàn thành nhiệm vụ. Ví dụ, bạn có thể yêu cầu nó "lập kế hoạch cho một chuyến đi xe đạp một ngày quanh Paris", và nó sẽ sử dụng một công cụ thời gian di chuyển để tạo ra một lịch trình chi tiết.

Sau khi tạo một công cụ tùy chỉnh, bạn có thể dễ dàng chia sẻ nó với cộng đồng bằng cách đẩy nó lên Hugging Face Hub chỉ bằng một lệnh duy nhất, thúc đẩy sự hợp tác và tái sử dụng.

Tính năng chính của smolagents

• Agent Code-First: Các agent tạo và thực thi mã Python cho các hành động, mang lại sự linh hoạt, khả năng kết hợp và hiệu quả vượt trội so với việc gọi công cụ truyền thống.
• Tối giản và Đơn giản: Một codebase nhỏ gọn khoảng 1.000 dòng đảm bảo framework dễ hiểu, dễ sử dụng và dễ mở rộng.
• Tương thích LLM rộng rãi: Tích hợp với bất kỳ LLM nào, bao gồm các mô hình trên Hugging Face Hub, OpenAI và Anthropic, thông qua Transformers và LiteLLM.
• Thực thi an toàn: Hỗ trợ chạy mã do agent tạo ra trong các môi trường sandbox như E2B để đảm bảo an toàn và ngăn chặn các tác dụng phụ không mong muốn.
• Tích hợp sâu với Hugging Face Hub: Cho phép các nhà phát triển dễ dàng chia sẻ và tải các công cụ, thúc đẩy một hệ sinh thái hợp tác gồm các thành phần có thể tái sử dụng.
• Hỗ trợ gọi công cụ truyền thống: Mặc dù tập trung vào code-first, framework cũng hỗ trợ các agent truyền thống sử dụng JSON hoặc văn bản cho các hành động, mang lại sự linh hoạt cho các trường hợp sử dụng khác nhau.
• Hiệu quả cao: Các agent mã lệnh giảm số bước và số lần gọi LLM cần thiết để hoàn thành các nhiệm vụ phức tạp, dẫn đến kết quả nhanh hơn và chính xác hơn.

Các trường hợp sử dụng smolagents

Sự linh hoạt của smolagents làm cho nó phù hợp với một loạt các ứng dụng:

• Trợ lý cá nhân: Tạo ra các trợ lý tinh vi có thể quản lý các nhiệm vụ, chẳng hạn như ví dụ về công cụ lập kế hoạch du lịch tính toán các tuyến đường và xây dựng lịch trình.
• Phân tích dữ liệu & Tạo SQL: Xây dựng các agent có thể hiểu các truy vấn ngôn ngữ tự nhiên, viết các truy vấn SQL tương ứng vào cơ sở dữ liệu, thực thi chúng và trình bày kết quả.
• Nghiên cứu tự động: Triển khai các agent có thể duyệt web, thu thập thông tin từ nhiều nguồn, tổng hợp các phát hiện và tạo báo cáo tóm tắt.
• Tự động hóa phát triển phần mềm: Hỗ trợ các nhà phát triển bằng cách viết các đoạn mã, gỡ lỗi hoặc thậm chí điều phối các quy trình xây dựng đơn giản, hoạt động như một trợ lý 'giống Devin' cho các nhiệm vụ cụ thể.
• Tự động hóa quy trình làm việc phức tạp: Kết nối nhiều công cụ và API để tự động hóa các quy trình kinh doanh nhiều bước, chẳng hạn như xử lý các phiếu hỗ trợ khách hàng hoặc quản lý đơn hàng thương mại điện tử.

Ưu điểm của smolagents

smolagents mang lại những lợi thế đáng kể cho các nhà phát triển xây dựng hệ thống agent:

• Khả năng kết hợp vượt trội: Mã lệnh tự nhiên hỗ trợ lồng và tái sử dụng hàm, cho phép biểu diễn các logic rất phức tạp khó có thể đạt được với JSON.
• Xử lý đối tượng hiệu quả: Việc quản lý và chuyển giao các đối tượng dữ liệu phức tạp giữa các bước đơn giản và trực tiếp hơn nhiều trong mã lệnh so với việc tuần tự hóa sang và từ JSON.
• Linh hoạt tối đa: Mã lệnh có thể đại diện cho bất kỳ hoạt động nào mà máy tính có thể thực hiện, cung cấp sự linh hoạt gần như vô hạn cho các hành động của agent.
• Tận dụng thế mạnh của LLM: Các LLM đã được đào tạo trên một lượng lớn mã lệnh chất lượng cao, giúp chúng cực kỳ thành thạo trong việc tạo và hiểu nó.
• Mã nguồn mở và do cộng đồng thúc đẩy: Là một dự án của Hugging Face, nó được hưởng lợi từ một cộng đồng mã nguồn mở sôi động và các nguồn tài nguyên phong phú của Hugging Face Hub.

Giá cả và gói dịch vụ

smolagents là một framework mã nguồn mở được phát hành theo giấy phép Apache 2.0, làm cho nó hoàn toàn miễn phí để sử dụng. Các nhà phát triển có thể tự do tải xuống, sửa đổi và tích hợp thư viện vào các dự án của họ. Mặc dù bản thân framework là miễn phí, người dùng có thể phải chịu chi phí liên quan đến việc sử dụng các dịch vụ của bên thứ ba, chẳng hạn như:

• Các cuộc gọi API đến các LLM độc quyền (ví dụ: dòng GPT của OpenAI, Claude của Anthropic).
• Sử dụng các môi trường sandbox trả phí hoặc các công cụ và API bên ngoài khác.