Agents-Flex

Agents-Flex 是一個在 Java 中開發的優雅、輕量級且功能強大的開源框架，旨在簡化基於大型語言模型（LLM）的應用程式創建。Agents-Flex 從 LangChain 和 LlamaIndex 等成熟框架中汲取靈感，提供了一個對開發者友好、可移植且可編排的 API，它不與任何特定的 Java 框架綁定，使其成為現代 AI 開發的高度通用工具。

Agents-Flex 的核心理念是在不犧牲功能的前提下提供簡潔性。它使開發人員能夠用最少的樣板程式碼建構複雜的 AI 系統，從簡單的聊天機器人到複雜的自主代理程式。該框架被設計為高度可擴展，允許開發人員輕鬆整合自訂模型、資料來源和工具以滿足其特定需求。它對 OpenAI 等國際知名模型和眾多中國國內模型都有強大的支援，使其成為一個全球化的解決方案。

如何使用 Agents-Flex

對於任何 Java 開發者來說，開始使用 Agents-Flex 都非常簡單。過程通常包括以下步驟：

1. 新增依賴：透過在您的 `pom.xml`（Maven）或 `build.gradle` 檔案中新增依賴，將 Agents-Flex 整合到您的專案中。對於 Spring Boot 用戶，提供了專門的 `spring-boot-starter` 以實現無縫的自動配置。
2. 實例化 LLM：配置並創建您所需 LLM 的實例。例如，連接到 OpenAI 只需一行程式碼：`OpenAILlm llm = OpenAILlm.of("YOUR_API_KEY");`
3. 執行聊天補全：透過調用 `chat` 方法與模型互動：`String response = llm.chat("你叫什麼名字？");`
4. 實現函數調用：要將 LLM 連接到您自己的工具，請定義一個 Java 類別，其方法使用 `@FunctionDef` 和 `@FunctionParam` 進行註解。Agents-Flex 會處理生成工具結構、將其發送給 LLM 並解析回應以調用正確的本地方法的複雜邏輯。
5. 建構 RAG 管道：對於檢索增強生成（RAG），使用框架的 `Loader`、`Parser` 和 `Splitter` 元件來擷取文件，然後使用 `Embedding` 模型和 `VectorStore` 創建一個可搜尋的知識庫。

Agents-Flex 的核心功能

• 廣泛的 LLM 支援：原生支援眾多 LLM，包括 OpenAI、Google Gemini、Ollama、Deepseek、阿里通義千問、科大訊飛星火、Coze 等。它還允許透過 HTTP/SSE/WS 協議輕鬆整合私有模型。
• 強大的函數調用：一個直觀的、基於註解的系統，用於定義和管理 LLM 可以調用的工具，從而能夠創建面向任務的代理程式。
• 全面的 RAG 元件：包括用於文件載入（從網路、本地檔案、資料庫）、解析各種格式和智慧文本分割的模組。
• 廣泛的向量資料庫整合：與 Milvus、Elasticsearch、Pgvector、Qdrant、Redis、OpenSearch 等眾多向量資料庫無縫連接，為您的 RAG 架構提供靈活性。
• 靈活的記憶體管理：具有用於維護對話歷史的 `MessageMemory` 和用於在複雜執行鏈中追蹤狀態的 `ContextMemory`。
• 複雜的代理程式與鏈式編排：支援同步、非同步和循環執行鏈，允許開發人員建構複雜的多步驟工作流程和自主代理程式（例如 ReAct 代理程式）。
• 多模態能力：超越文本，支援涉及圖像和音訊的互動，從而能夠開發更豐富的 AI 應用程式。

Agents-Flex 的使用案例

Agents-Flex 適用於各種 AI 應用開發場景：

• 智慧聊天機器人和虛擬助理：建構能夠記住過去互動並存取外部工具的對話式代理程式。
• 企業知識庫問答：創建強大的 RAG 系統，允許用戶用自然語言提問，並從公司內部文件中獲得答案。
• 自動化任務執行：開發能夠理解用戶目標、將其分解為步驟，並透過調用各種 API 和本地函數執行這些步驟的自主代理程式。
• 內容生成工具：將文本、圖像或音訊生成功能直接整合到您的 Java 應用程式中。
• 資料處理與分析：使用 LLM 從大量非結構化文本中提取、總結和分析資訊。

Agents-Flex 的優勢特點

• 簡潔易用：其 API 設計簡潔直觀，顯著減少開發時間。
• 框架無關：與 Spring-AI 等競爭對手不同，它不鎖定於特定生態系統。它適用於任何 Java 框架（Spring、Solon 等），甚至可以在普通的 Java 應用程式中使用。
• 系統要求低：僅需 JDK 8+，使其適用於更廣泛的專案，包括舊有系統。
• 高度可擴展：每個核心元件都基於介面，鼓勵客製化和擴展。
• 對國產模型的出色支援：為許多流行的中國 LLM 和服務提供一流的支援，這是對該市場開發者的一個關鍵優勢。
• 開源：該框架完全免費、開源，並受益於活躍的開發和社群貢獻。

定價和計劃

Agents-Flex 是一個在寬鬆授權下分發的開源專案。對於個人和商業專案，它完全免費使用。沒有付費方案或企業版。該專案在 Gitee 和 GitHub 上維護，並歡迎社群的貢獻。