smolagents

smolagents는 Hugging Face 팀이 개발한 혁신적이고 미니멀리스트적인 AI 에이전트 프레임워크로, 강력한 AI 에이전트의 생성 및 배포를 획기적으로 단순화하도록 설계되었습니다. 단순성 원칙에 따라 핵심 코드베이스는 약 1,000줄로 구성되어 개발자들이 쉽게 접근할 수 있습니다. 이 프레임워크의 주요 혁신은 '코드 우선' 접근 방식으로, 에이전트가 유연성이 떨어지는 JSON이나 텍스트 덩어리에 의존하는 대신 Python 코드 스니펫을 생성하고 실행하여 작업을 수행합니다. 이 방법은 약 30%의 단계와 LLM 호출을 줄여 더 효율적이며 복잡한 벤치마크에서 우수한 성능을 달성하는 것으로 입증되었습니다.

이 프레임워크는 최고의 유연성과 통합을 위해 설계되었습니다. Transformers를 통해 Hugging Face Hub의 오픈소스 모델을 포함한 모든 대규모 언어 모델과 원활하게 작동하며, LiteLLM 통합을 통해 OpenAI, Anthropic 등의 독점 모델과도 호환됩니다. 이를 통해 개발자들은 단일 생태계에 얽매이지 않고 특정 작업에 가장 적합한 모델을 선택할 수 있습니다.

smolagents 사용 방법

smolagents 사용법은 Python에 익숙한 개발자에게 직관적인 프로세스로 설계되었습니다. 워크플로우는 일반적으로 세 가지 주요 단계로 구성됩니다.

1. 도구 정의: 첫 번째 단계는 에이전트가 사용할 도구를 만들거나 가져오는 것입니다. 도구는 간단한 Python 함수입니다. `@tool` 데코레이터를 사용하여 모든 함수를 쉽게 도구로 변환할 수 있습니다. 이러한 도구는 API 호출(예: Google 지도에서 여행 데이터 가져오기)부터 로컬 계산 수행에 이르기까지 모든 작업을 수행할 수 있습니다.
2. 에이전트 인스턴스화: 도구가 준비되면 `CodeAgent`와 같은 에이전트 클래스의 인스턴스를 만듭니다. 에이전트를 초기화할 때 사용할 수 있는 도구 목록을 제공하고 사용할 언어 모델을 지정합니다(예: Hugging Face 모델의 경우 `HfApiModel()`).
3. 에이전트 실행: 에이전트가 설정되면 `.run()` 메서드와 자연어 프롬프트를 사용하여 작업을 부여할 수 있습니다. 그러면 에이전트는 자율적으로 추론하고, 제공된 도구를 사용하기 위한 Python 코드를 작성하고, 코드를 실행하며, 작업이 완료될 때까지 반복합니다. 예를 들어, "파리 주변의 하루 자전거 여행 계획을 세워줘"라고 요청하면 여행 시간 도구를 사용하여 상세한 일정을 생성합니다.

사용자 지정 도구를 만든 후에는 단일 명령으로 Hugging Face Hub에 푸시하여 커뮤니티와 쉽게 공유하고 협업과 재사용을 촉진할 수 있습니다.

smolagents의 핵심 기능

• 코드 우선 에이전트: 에이전트가 작업을 위해 Python 코드를 생성하고 실행하여 기존 도구 호출 방식보다 뛰어난 유연성, 구성 가능성 및 효율성을 제공합니다.
• 미니멀리스트 및 단순성: 약 1,000줄의 컴팩트한 코드베이스로 프레임워크를 쉽게 이해하고 사용하며 확장할 수 있습니다.
• 광범위한 LLM 호환성: Transformers 및 LiteLLM을 통해 Hugging Face Hub, OpenAI, Anthropic의 모델을 포함한 모든 LLM과 통합됩니다.
• 안전한 실행: E2B와 같은 샌드박스 환경에서 에이전트가 생성한 코드를 실행하여 안전을 보장하고 의도하지 않은 부작용을 방지합니다.
• Hugging Face Hub와의 긴밀한 통합: 개발자가 도구를 쉽게 공유하고 로드할 수 있도록 하여 재사용 가능한 구성 요소의 협업 생태계를 조성합니다.
• 기존 도구 호출 지원: 코드 우선 방식에 중점을 두면서도, JSON이나 텍스트를 사용하여 작업을 수행하는 기존 에이전트도 지원하여 다양한 사용 사례에 유연성을 제공합니다.
• 고효율성: 코드 에이전트는 복잡한 작업을 완료하는 데 필요한 단계와 LLM 호출 수를 줄여 더 빠르고 정확한 결과를 제공합니다.

smolagents의 사용 사례

smolagents의 유연성은 다양한 애플리케이션에 적합합니다.

• 개인 비서: 경로를 계산하고 일정을 만드는 여행 플래너 예제와 같이 작업을 관리할 수 있는 정교한 비서를 만듭니다.
• 데이터 분석 및 SQL 생성: 자연어 쿼리를 이해하고, 데이터베이스에 해당하는 SQL 쿼리를 작성하고, 실행하며, 결과를 제시하는 에이전트를 구축합니다.
• 자동화된 연구: 웹을 탐색하고, 여러 소스에서 정보를 수집하고, 결과를 종합하여 요약 보고서를 생성하는 에이전트를 배포합니다.
• 소프트웨어 개발 자동화: 코드 스니펫 작성, 디버깅 또는 간단한 빌드 프로세스 조정을 통해 개발자를 지원하며, 특정 작업을 위한 'Devin과 같은' 보조 역할을 합니다.
• 복잡한 워크플로우 자동화: 여러 도구와 API를 연결하여 고객 지원 티켓 처리나 전자 상거래 주문 관리와 같은 다단계 비즈니스 프로세스를 자동화합니다.

smolagents의 장점

smolagents는 에이전트 시스템을 구축하는 개발자에게 상당한 이점을 제공합니다.

• 우수한 구성 가능성: 코드는 자연스럽게 함수 중첩과 재사용을 지원하여 JSON으로는 달성하기 어려운 매우 복잡한 로직을 표현할 수 있습니다.
• 효율적인 객체 처리: 복잡한 데이터 객체를 단계 간에 관리하고 전송하는 것이 JSON으로 직렬화하는 것보다 코드에서 훨씬 간단하고 직접적입니다.
• 궁극의 유연성: 코드는 컴퓨터가 수행할 수 있는 모든 작업을 나타낼 수 있어 에이전트 작업에 거의 무한한 다재다능함을 제공합니다.
• LLM의 강점 활용: LLM은 방대한 양의 고품질 코드로 훈련되어 코드를 생성하고 이해하는 데 매우 능숙합니다.
• 오픈소스 및 커뮤니티 주도: Hugging Face 프로젝트로서 활발한 오픈소스 커뮤니티와 Hugging Face Hub의 광범위한 리소스의 혜택을 받습니다.

가격 및 플랜

smolagents는 Apache 2.0 라이선스에 따라 출시된 오픈소스 프레임워크이므로 완전히 무료로 사용할 수 있습니다. 개발자는 자유롭게 라이브러리를 다운로드, 수정 및 프로젝트에 통합할 수 있습니다. 프레임워크 자체는 무료이지만, 다음과 같은 타사 서비스 사용과 관련하여 비용이 발생할 수 있습니다.

• 독점 LLM(예: OpenAI의 GPT 시리즈, Anthropic의 Claude)에 대한 API 호출.
• 유료 샌드박스 환경 또는 기타 외부 도구 및 API 사용.