Agents-Flex

Agents-Flex는 대규모 언어 모델(LLM) 기반 애플리케이션 생성을 간소화하기 위해 자바로 개발된 우아하고 가벼우며 강력한 오픈 소스 프레임워크입니다. LangChain 및 LlamaIndex와 같은 기존 프레임워크에서 영감을 받은 Agents-Flex는 특정 자바 프레임워크에 얽매이지 않는 개발자 친화적이고 이식 가능하며 오케스트레이션 가능한 API를 제공하여 현대 AI 개발을 위한 매우 다재다능한 도구입니다.

Agents-Flex의 핵심 철학은 강력함을 희생하지 않으면서 단순함을 제공하는 것입니다. 이를 통해 개발자는 간단한 챗봇부터 정교한 자율 에이전트에 이르기까지 최소한의 상용구 코드로 복잡한 AI 시스템을 구축할 수 있습니다. 이 프레임워크는 고도로 확장 가능하도록 구축되어 개발자가 특정 요구에 맞게 사용자 정의 모델, 데이터 소스 및 도구를 쉽게 통합할 수 있습니다. OpenAI와 같은 국제적으로 인정받는 모델과 다양한 중국 국내 모델을 강력하게 지원하여 전 세계적으로 관련성 있는 솔루션입니다.

Agents-Flex 사용 방법

자바 개발자라면 누구나 Agents-Flex를 쉽게 시작할 수 있습니다. 프로세스는 일반적으로 다음 단계를 포함합니다.

1. 의존성 추가: `pom.xml`(Maven) 또는 `build.gradle` 파일에 의존성을 추가하여 프로젝트에 Agents-Flex를 통합합니다. Spring Boot 사용자를 위해 원활한 자동 구성을 위한 전용 `spring-boot-starter`가 제공됩니다.
2. LLM 인스턴스화: 원하는 LLM의 인스턴스를 구성하고 생성합니다. 예를 들어, OpenAI에 연결하는 것은 `OpenAILlm llm = OpenAILlm.of("YOUR_API_KEY");` 한 줄의 코드로 간단합니다.
3. 채팅 완료 수행: `chat` 메소드를 호출하여 모델과 상호 작용합니다: `String response = llm.chat("당신의 이름은 무엇입니까?");`
4. 함수 호출 구현: LLM을 자체 도구에 연결하려면 `@FunctionDef` 및 `@FunctionParam`으로 주석이 달린 메소드가 있는 자바 클래스를 정의합니다. Agents-Flex는 도구 스키마 생성, LLM으로 전송, 응답 구문 분석하여 올바른 로컬 메소드를 호출하는 복잡한 로직을 처리합니다.
5. RAG 파이프라인 구축: 검색 증강 생성(RAG)을 위해 프레임워크의 `Loader`, `Parser`, `Splitter` 구성 요소를 사용하여 문서를 수집한 다음, `Embedding` 모델과 `VectorStore`를 사용하여 검색 가능한 지식 기반을 만듭니다.

Agents-Flex의 핵심 기능

• 광범위한 LLM 지원: OpenAI, Google Gemini, Ollama, Deepseek, Alibaba Qwen, iFlytek Spark, Coze 등 다양한 LLM을 기본적으로 지원합니다. 또한 HTTP/SSE/WS 프로토콜을 통해 개인 모델을 쉽게 통합할 수 있습니다.
• 강력한 함수 호출: LLM이 호출할 수 있는 도구를 정의하고 관리하기 위한 직관적인 주석 기반 시스템으로, 작업 지향 에이전트 생성을 가능하게 합니다.
• 포괄적인 RAG 구성 요소: 문서 로딩(웹, 로컬 파일, 데이터베이스에서), 다양한 형식 구문 분석 및 지능형 텍스트 분할을 위한 모듈을 포함합니다.
• 광범위한 벡터 스토어 통합: Milvus, Elasticsearch, Pgvector, Qdrant, Redis, OpenSearch 등 수많은 벡터 데이터베이스와 원활하게 연결되어 RAG 아키텍처에 유연성을 제공합니다.
• 유연한 메모리 관리: 대화 기록 유지를 위한 `MessageMemory`와 복잡한 실행 체인 내에서 상태를 추적하기 위한 `ContextMemory`를 특징으로 합니다.
• 정교한 에이전트 및 체인 오케스트레이션: 동기식, 비동기식 및 루핑 실행 체인을 지원하여 개발자가 복잡한 다단계 워크플로와 자율 에이전트(예: ReAct 에이전트)를 구축할 수 있도록 합니다.
• 다중 모드 기능: 텍스트를 넘어 이미지와 오디오를 포함하는 상호 작용을 지원하여 더 풍부한 AI 애플리케이션 개발을 가능하게 합니다.

Agents-Flex의 사용 사례

Agents-Flex는 다양한 AI 애플리케이션 개발 시나리오에 적합합니다.

• 지능형 챗봇 및 가상 비서: 과거 상호 작용을 기억하고 외부 도구에 액세스할 수 있는 대화형 에이전트를 구축합니다.
• 기업 지식 기반 Q&A: 사용자가 자연어로 질문하고 회사 내부 문서에서 출처를 밝힌 답변을 받을 수 있는 강력한 RAG 시스템을 만듭니다.
• 자동화된 작업 실행: 사용자 목표를 이해하고 단계로 나누어 다양한 API 및 로컬 함수를 호출하여 해당 단계를 실행할 수 있는 자율 에이전트를 개발합니다.
• 콘텐츠 생성 도구: 텍스트, 이미지 또는 오디오 생성 기능을 자바 애플리케이션에 직접 통합합니다.
• 데이터 처리 및 분석: LLM을 사용하여 대량의 비정형 텍스트에서 정보를 추출, 요약 및 분석합니다.

Agents-Flex의 장점

• 단순성 및 사용 용이성: API가 간결하고 직관적으로 설계되어 개발 시간을 크게 단축합니다.
• 프레임워크에 구애받지 않음: Spring-AI와 같은 경쟁사와 달리 특정 생태계에 얽매이지 않습니다. 모든 자바 프레임워크(Spring, Solon 등) 또는 일반 자바 애플리케이션에서도 작동합니다.
• 낮은 시스템 요구 사항: JDK 8+만 필요하므로 레거시 시스템을 포함한 더 넓은 범위의 프로젝트에 접근할 수 있습니다.
• 고도로 확장 가능: 모든 핵심 구성 요소는 인터페이스 기반으로, 사용자 정의 및 확장을 장려합니다.
• 중국 모델에 대한 탁월한 지원: 많은 인기 있는 중국 LLM 및 서비스에 대한 일류 지원을 제공하여 해당 시장의 개발자에게 핵심적인 이점을 제공합니다.
• 오픈 소스: 이 프레임워크는 완전 무료 오픈 소스이며 활발한 개발과 커뮤니티 기여의 혜택을 받습니다.

가격 및 플랜

Agents-Flex는 허용 라이선스에 따라 배포되는 오픈 소스 프로젝트입니다. 개인 및 상업용 프로젝트 모두에 완전히 무료로 사용할 수 있습니다. 유료 플랜이나 엔터프라이즈 에디션은 없습니다. 이 프로젝트는 Gitee와 GitHub에서 유지 관리되며 커뮤니티의 기여를 환영합니다.