Skillgraph

Skillgraph는 기존 도구로 구축된 AI 에이전트보다 더 효과적이고 경제적이며 제어 가능한 AI 에이전트를 개발하기 위한 혁신적인 오픈 소스(Apache 2.0 라이선스) 프레임워크입니다. 높은 운영 비용, 에이전트 제어 부족, 다중 턴 워크플로 구현의 복잡성과 같은 일반적인 문제점을 해결합니다. '기술'을 정교한 작업 단위로 도입함으로써 Skillgraph는 에이전트가 복잡한 작업을 위임하고, 상태를 관리하며, 여러 도구를 효율적으로 조율할 수 있도록 합니다. 이는 지능형 캐싱 및 대체 메커니즘을 통해 토큰 낭비를 줄이고, 다중 턴 상호 작용을 단순화하며, 높은 신뢰성을 보장하는 데 중점을 둡니다.

Skillgraph 사용 방법

개발자는 Skillgraph를 사용하여 특정 작업, 로직 및 워크플로를 캡슐화하는 지능형 단위인 '기술'을 정의하고 등록할 수 있습니다. 에이전트에게 저수준 도구를 직접 호출하도록 지시하는 대신, 개발자는 관련성을 아는(의도 감지를 통해), 다중 턴 대화를 처리할 수 있는(스킬 모드), 그리고 자체 내부 프로세스를 관리하는 기술을 구성합니다. 이 프레임워크는 이러한 기술을 지원하기 위한 메모리(주체-객체), 캐싱, 신뢰성(LLM 대체) 및 대화 관리(요약, 벡터 검색) 아키텍처를 제공합니다. 코드는 GitHub에서 사용할 수 있으며, 직접 구현 및 사용자 정의가 가능합니다.

Skillgraph의 핵심 기능

• 기술 기반 아키텍처: 기존의 도구 호출을 자체 로직을 처리하고, 여러 도구를 조율하며, 상태를 관리하는 정교한 '기술'로 대체합니다.
• 네이티브 다중 턴 지원(스킬 모드): 기술이 여러 턴 동안 대화의 독점적인 제어권을 가질 수 있도록 하여 예약 또는 양식 작성과 같은 복잡한 워크플로를 단순화합니다.
• 주체-객체 메모리 아키텍처: 사용자 목표(주체)와 현재 논의 중인 주제(객체)를 추적하여 대화 상태를 관리하는 빠르고 저렴하며 효과적인 시스템으로, 상태 관리를 위한 복잡한 RAG 시스템을 대체합니다.
• 스마트 캐싱: 다중 계층 캐싱(시스템 프롬프트용 Anthropic 프롬프트 캐싱, 대화 기록용 Redis)을 구현하여 비용을 크게 절감하고 검색 속도를 향상시킵니다.
• 내장된 신뢰성(LLM 대체 체인): LLM API 요청에 대한 대체 체인(예: 베타 → 알파 → 재시도)을 구현하고 상태 분석을 위한 우아한 저하를 통해 부분적인 중단 중에도 99.9%의 높은 가동 시간을 보장합니다.
• 오픈 소스(Apache 2.0): Apache 2.0 라이선스에 따라 상업적 사용, 수정 및 배포가 자유롭게 가능하며, 코드는 GitHub에 있습니다.
• 의도 이해: 빠른 분류기(유틸리티 LLM)를 사용하여 사용자 의도를 감지하고, 의미론적 유사성 및 키워드 일치를 기반으로 메시지를 가장 관련성이 높은 기술로 라우팅합니다.
• 회상을 위한 벡터 검색: pgvector를 활용하여 대화 내에서 과거 메시지를 의미론적으로 검색함으로써 에이전트가 긴 대화의 초반 정보도 회상할 수 있도록 합니다.
• 대화 요약: 10개 메시지마다(구성 가능) 점진적 요약을 사용하여 컨텍스트 제한을 관리함으로써 대화가 무기한으로 지속될 수 있도록 합니다.
• 다중 LLM 지원: Anthropic, OpenAI, Azure, Bedrock, Deepseek, Together 및 Huggingface를 포함한 다양한 LLM을 지원하여 복잡성에 따라 유연한 통합 및 라우팅이 가능합니다.
• 가드레일 및 보안: 속도 제한 및 SQL 주입 감지와 같은 기능을 포함합니다.

Skillgraph의 사용 사례

Skillgraph는 고급스럽고 신뢰할 수 있으며 비용 효율적인 AI 에이전트를 구축하려는 개발자와 조직에 이상적입니다. 특정 사용 사례에는 고객 지원 또는 가상 비서를 위한 정교한 대화형 AI 에이전트 개발, 티켓 예약, 주문 처리, 데이터 수집과 같은 복잡한 다단계 작업 자동화 시스템 생성, 그리고 장기적인 상호 작용에서 지속적인 메모리 및 컨텍스트가 필요한 AI 기반 워크플로 구현이 포함됩니다. 또한 높은 신뢰성과 비용 효율성을 요구하는 차세대 에이전트형 AI 애플리케이션을 실험하고 구축하는 데 적합합니다.

Skillgraph의 장점

Skillgraph는 기존 AI 에이전트 프레임워크에 비해 여러 가지 주요 장점을 제공합니다. 기술 기반 위임 및 스마트 캐싱을 통해 토큰 사용량과 운영 비용을 크게 절감하여 시스템 프롬프트 토큰 비용을 89% 절감합니다. 개발자는 로직을 기술 내에 캡슐화하여 에이전트 동작에 대한 제어력을 향상시켜 예측 가능한 결과를 보장합니다. 이 프레임워크는 스킬 모드를 통한 다중 턴 상호 작용에 대한 네이티브 지원으로 복잡한 워크플로를 단순화하여 복잡한 해결 방법의 필요성을 없앱니다. 내장된 LLM 대체 체인 및 우아한 저하 메커니즘은 API 중단 중에도 견고한 작동과 향상된 신뢰성을 보장합니다. 또한, 주체-객체 메모리 아키텍처는 대화 상태 관리를 위한 기존 RAG에 대한 빠르고 저렴한 대안을 제공하며, 오픈 소스 특성은 상업적 사용 및 커뮤니티 기여에 대한 유연성을 제공합니다.