smolagents

smolagents 是 Hugging Face 團隊推出的一款革命性的、簡約的 AI 代理框架，旨在極大地簡化強大 AI 代理的創建和部署。基於簡潔性原則，其核心程式碼庫約 1000 行，使開發人員極易上手。該框架的主要創新是其「程式碼優先」的方法，即代理生成並執行 Python 程式碼片段來執行操作，而不是依賴於靈活性較差的 JSON 或文本塊。事實證明，這種方法效率更高，可將步驟和 LLM 調用次數減少約 30%，並在複雜基準測試中取得更優異的性能。

該框架為實現終極靈活性和整合而設計。它能與任何大型語言模型無縫協作，包括透過 Transformers 使用 Hugging Face Hub 的開源模型，以及透過其 LiteLLM 整合使用來自 OpenAI、Anthropic 等的專有模型。這使開發人員能夠為其特定任務選擇最佳模型，而不會被鎖定在單一生態系統中。

如何使用 smolagents

對於熟悉 Python 的開發人員來說，使用 smolagents 的過程被設計得非常直觀。工作流程通常包括三個主要步驟：

1. 定義您的工具：第一步是創建或導入您的代理將使用的工具。工具就是一個 Python 函數。您可以使用 `@tool` 裝飾器輕鬆地將任何函數轉換為工具。這些工具可以執行任何操作，從進行 API 調用（如從谷歌地圖獲取旅行數據）到執行本地計算。
2. 實例化代理：擁有工具後，您可以創建代理類別的實例，例如 `CodeAgent`。在初始化代理時，您向其提供可用的工具列表，並指定希望其使用的語言模型（例如，使用 `HfApiModel()` 代表 Hugging Face 模型）。
3. 運行代理：設置好代理後，您可以使用 `.run()` 方法和自然語言提示為其分配任務。然後，代理將自主推理，編寫 Python 程式碼以使用提供的工具，執行程式碼，並進行迭代，直到完成任務。例如，您可以要求它「規劃一次巴黎單日自行車之旅」，它將使用旅行時間工具生成詳細的行程。

創建自訂工具後，您可以透過一個簡單的指令將其推送到 Hugging Face Hub，與社群分享，從而促進協作和重用。

smolagents 的核心功能

• 程式碼優先代理：代理生成並執行 Python 程式碼來執行操作，相比傳統的工具調用，提供了卓越的靈活性、可組合性和效率。
• 簡約與簡單：約 1000 行的緊湊程式碼庫確保了框架易於理解、使用和擴展。
• 廣泛的 LLM 相容性：透過 Transformers 和 LiteLLM，可與任何 LLM 整合，包括 Hugging Face Hub、OpenAI 和 Anthropic 上的模型。
• 安全執行：支援在 E2B 等沙盒環境中運行代理生成的程式碼，以確保安全並防止意外的副作用。
• 與 Hugging Face Hub 深度整合：允許開發人員輕鬆分享和載入工具， fostering 一個可重用組件的協作生態系統。
• 支援傳統工具調用：雖然以程式碼優先為重點，但該框架也支援使用 JSON 或文本進行操作的傳統代理，為不同用例提供了靈活性。
• 高效率：程式碼代理減少了完成複雜任務所需的步驟和 LLM 調用次數，從而獲得更快、更準確的結果。

smolagents 的使用案例

smolagents 的靈活性使其適用於廣泛的應用：

• 個人助理：創建能夠管理任務的複雜助理，例如計算路線並制定行程的旅行規劃器範例。
• 資料分析與 SQL 生成：建構能夠理解自然語言查詢、向資料庫編寫相應 SQL 查詢、執行並呈現結果的代理。
• 自動化研究：部署能夠瀏覽網頁、從多個來源收集資訊、綜合發現並生成摘要報告的代理。
• 軟體開發自動化：透過編寫程式碼片段、除錯甚至協調簡單的建置過程來協助開發人員，充當特定任務的「類 Devin」助理。
• 複雜工作流自動化：連接多個工具和 API 以自動化多步驟業務流程，例如處理客戶支援工單或管理電子商務訂單。

smolagents 的優勢特點

smolagents 為建構代理系統的開發人員提供了顯著優勢：

• 卓越的可組合性：程式碼天然支援函數嵌套和重用，允許表達用 JSON 難以實現的極其複雜的邏輯。
• 高效的物件處理：與序列化為 JSON 相比，在程式碼中管理和傳輸複雜資料物件要簡單和直接得多。
• 終極靈活性：程式碼可以表示計算機能執行的任何操作，為代理操作提供了幾乎無限的多功能性。
• 利用 LLM 的優勢：LLM 經過大量高品質程式碼的訓練，使其在生成和理解程式碼方面異常熟練。
• 開源和社群驅動：作為 Hugging Face 的專案，它受益於充滿活力的開源社群和 Hugging Face Hub 的廣泛資源。

定價和計劃

smolagents 是一個在 Apache 2.0 授權下發布的開源框架，因此完全免費使用。開發人員可以自由下載、修改和整合該庫到他們的專案中。雖然框架本身是免費的，但用戶可能會因使用第三方服務而產生費用，例如：

• 對專有 LLM（如 OpenAI 的 GPT 系列、Anthropic 的 Claude）的 API 調用。
• 使用付費沙盒環境或其他外部工具和 API。