Agents-Flex

Agents-Flex là một framework mã nguồn mở thanh lịch, nhẹ và mạnh mẽ được phát triển bằng Java, được thiết kế để hợp lý hóa việc tạo ra các ứng dụng dựa trên các Mô hình Ngôn ngữ Lớn (LLM). Lấy cảm hứng từ các framework đã có tên tuổi như LangChain và LlamaIndex, Agents-Flex cung cấp một API thân thiện với nhà phát triển, di động và có thể điều phối, không bị ràng buộc vào bất kỳ framework Java cụ thể nào, làm cho nó trở thành một công cụ rất linh hoạt cho phát triển AI hiện đại.

Triết lý cốt lõi đằng sau Agents-Flex là cung cấp sự đơn giản mà không phải hy sinh sức mạnh. Nó cho phép các nhà phát triển xây dựng các hệ thống AI phức tạp, từ các chatbot đơn giản đến các agent tự trị tinh vi, với mã boilerplate tối thiểu. Framework được xây dựng để có khả năng mở rộng cao, cho phép các nhà phát triển dễ dàng tích hợp các mô hình tùy chỉnh, nguồn dữ liệu và công cụ để phù hợp với nhu cầu cụ thể của họ. Nó có sự hỗ trợ mạnh mẽ cho cả các mô hình được công nhận quốc tế như OpenAI và một loạt các mô hình trong nước của Trung Quốc, làm cho nó trở thành một giải pháp có liên quan trên toàn cầu.

Cách sử dụng Agents-Flex

Bắt đầu với Agents-Flex rất đơn giản đối với bất kỳ nhà phát triển Java nào. Quá trình này thường bao gồm các bước sau:

1. Thêm Phụ thuộc: Tích hợp Agents-Flex vào dự án của bạn bằng cách thêm nó như một phụ thuộc trong tệp `pom.xml` (đối với Maven) hoặc `build.gradle`. Đối với người dùng Spring Boot, có một `spring-boot-starter` chuyên dụng để tự động cấu hình liền mạch.
2. Khởi tạo một LLM: Cấu hình và tạo một phiên bản của LLM bạn mong muốn. Ví dụ, kết nối với OpenAI đơn giản chỉ bằng một dòng mã: `OpenAILlm llm = OpenAILlm.of("KHÓA_API_CỦA_BẠN");`
3. Thực hiện Hoàn thành Trò chuyện: Tương tác với mô hình bằng cách gọi phương thức `chat`: `String response = llm.chat("tên của bạn là gì?");`
4. Triển khai Gọi hàm: Để kết nối LLM với các công cụ của riêng bạn, hãy định nghĩa một lớp Java với các phương thức được chú thích bằng `@FunctionDef` và `@FunctionParam`. Agents-Flex xử lý logic phức tạp của việc tạo lược đồ công cụ, gửi nó đến LLM, và phân tích phản hồi để gọi phương thức cục bộ chính xác.
5. Xây dựng một Pipeline RAG: Đối với Tạo sinh Tăng cường Truy xuất (RAG), hãy sử dụng các thành phần `Loader`, `Parser`, và `Splitter` của framework để nhập tài liệu, sau đó sử dụng một mô hình `Embedding` và một `VectorStore` để tạo một cơ sở kiến thức có thể tìm kiếm.

Tính năng chính của Agents-Flex

• Hỗ trợ LLM rộng rãi: Hỗ trợ tự nhiên một loạt các LLM, bao gồm OpenAI, Google Gemini, Ollama, Deepseek, Alibaba Qwen, iFlytek Spark, Coze, và nhiều mô hình khác. Nó cũng cho phép tích hợp dễ dàng các mô hình riêng tư qua các giao thức HTTP/SSE/WS.
• Gọi hàm mạnh mẽ: Một hệ thống trực quan, dựa trên chú thích, để định nghĩa và quản lý các công cụ mà LLM có thể gọi, cho phép tạo ra các agent hướng nhiệm vụ.
• Các thành phần RAG toàn diện: Bao gồm các mô-đun để tải tài liệu (từ web, tệp cục bộ, cơ sở dữ liệu), phân tích các định dạng khác nhau, và chia tách văn bản thông minh.
• Tích hợp Cơ sở dữ liệu Vector mở rộng: Kết nối liền mạch với nhiều cơ sở dữ liệu vector như Milvus, Elasticsearch, Pgvector, Qdrant, Redis, OpenSearch, và nhiều hơn nữa, cung cấp sự linh hoạt cho kiến trúc RAG của bạn.
• Quản lý Bộ nhớ linh hoạt: Có `MessageMemory` để duy trì lịch sử hội thoại và `ContextMemory` để theo dõi trạng thái trong các chuỗi thực thi phức tạp.
• Điều phối Agent & Chuỗi tinh vi: Hỗ trợ các chuỗi thực thi đồng bộ, không đồng bộ, và lặp, cho phép các nhà phát triển xây dựng các quy trình làm việc phức tạp nhiều bước và các agent tự trị (ví dụ: agent ReAct).
• Khả năng Đa phương thức: Mở rộng ra ngoài văn bản để hỗ trợ các tương tác liên quan đến hình ảnh và âm thanh, cho phép phát triển các ứng dụng AI phong phú hơn.

Các trường hợp sử dụng Agents-Flex

Agents-Flex phù hợp với nhiều kịch bản phát triển ứng dụng AI khác nhau:

• Chatbot thông minh và Trợ lý ảo: Xây dựng các agent hội thoại có thể ghi nhớ các tương tác trong quá khứ và truy cập các công cụ bên ngoài.
• Hỏi đáp trên Cơ sở kiến thức doanh nghiệp: Tạo các hệ thống RAG mạnh mẽ cho phép người dùng đặt câu hỏi bằng ngôn ngữ tự nhiên và nhận câu trả lời có nguồn gốc từ các tài liệu nội bộ của công ty.
• Thực thi Tác vụ tự động: Phát triển các agent tự trị có thể hiểu mục tiêu của người dùng, chia nhỏ thành các bước, và thực hiện các bước đó bằng cách gọi các API và hàm cục bộ khác nhau.
• Công cụ Tạo nội dung: Tích hợp khả năng tạo văn bản, hình ảnh, hoặc âm thanh trực tiếp vào các ứng dụng Java của bạn.
• Xử lý và Phân tích dữ liệu: Sử dụng LLM để trích xuất, tóm tắt, và phân tích thông tin từ khối lượng lớn văn bản phi cấu trúc.

Ưu điểm của Agents-Flex

• Đơn giản và Dễ sử dụng: API của nó được thiết kế để ngắn gọn và trực quan, giảm đáng kể thời gian phát triển.
• Không phụ thuộc vào Framework: Không giống như các đối thủ cạnh tranh như Spring-AI, nó không bị khóa vào một hệ sinh thái cụ thể. Nó hoạt động với bất kỳ framework Java nào (Spring, Solon, v.v.) hoặc thậm chí trong một ứng dụng Java đơn thuần.
• Yêu cầu hệ thống thấp: Chỉ yêu cầu JDK 8+, làm cho nó có thể tiếp cận được với một loạt các dự án rộng hơn, bao gồm cả các hệ thống cũ.
• Khả năng mở rộng cao: Mọi thành phần cốt lõi đều dựa trên giao diện, khuyến khích tùy chỉnh và mở rộng.
• Hỗ trợ tuyệt vời cho các mô hình Trung Quốc: Cung cấp hỗ trợ hàng đầu cho nhiều LLM và dịch vụ phổ biến của Trung Quốc, một lợi thế quan trọng cho các nhà phát triển tại thị trường đó.
• Mã nguồn mở: Framework hoàn toàn miễn phí, mã nguồn mở, và được hưởng lợi từ sự phát triển tích cực và sự đóng góp của cộng đồng.

Giá cả và gói dịch vụ

Agents-Flex là một dự án mã nguồn mở được phân phối theo giấy phép cho phép. Nó hoàn toàn miễn phí để sử dụng cho cả các dự án cá nhân và thương mại. Không có gói trả phí hoặc phiên bản doanh nghiệp. Dự án được duy trì trên Gitee và GitHub, và sự đóng góp từ cộng đồng được hoan nghênh.