Agentary

Agentary는 개발자가 사용자의 브라우저 내에서 전적으로 실행되는 자율 AI 에이전트를 만들고 배포할 수 있도록 설계된 오픈 소스, 로컬 우선 프레임워크입니다. WebGPU 및 WebAssembly와 같은 기술을 활용하여 Agentary는 AI 실행을 엣지로 가져와 서버, 클라우드 기반 API 및 외부 데이터 처리의 필요성을 제거합니다. 이 접근 방식은 사용자 개인 정보 보호를 우선시하고 대기 시간을 줄이며 운영 비용을 제거하여 매우 반응성이 뛰어나고 안전한 AI 기반 웹 애플리케이션을 개발할 수 있도록 합니다.

Agentary 사용 방법

Agentary를 시작하려면 개발자는 npm을 통해 npm install agentary-js 명령을 사용하여 SDK를 설치할 수 있습니다. 설치 후 JavaScript 또는 TypeScript 프로젝트로 SDK를 가져옵니다. 그런 다음 간단한 프롬프트부터 다양한 도구를 포함하는 복잡한 다단계 워크플로에 이르기까지 AI 에이전트의 목표를 정의할 수 있습니다. 이 프레임워크는 양자화된 언어 모델을 브라우저에 로드하여 WebGPU에서 실행하여 성능을 가속화합니다. 에이전트는 사용자의 장치를 떠나는 데이터 없이 로컬에서 추론, 계획 및 사용자 지정 도구 또는 API 호출과 같은 작업을 실행합니다.

Agentary의 핵심 기능

• 브라우저 네이티브 실행: WebGPU 또는 WebAssembly를 사용하여 브라우저에서 직접 양자화된 언어 모델을 실행하여 서버 종속성을 제거합니다.
• WebGPU 가속: 장치의 GPU를 활용하여 거의 실시간에 가까운 추론과 부드럽고 반응성이 뛰어난 토큰 스트리밍을 제공합니다.
• 에이전트 워크플로: 조건부 논리를 사용하여 복잡한 다단계 에이전트 워크플로를 생성하고 실행할 수 있습니다.
• 도구 및 API 통합: 개발자가 AI 에이전트가 실행 중에 호출하고 활용할 수 있는 사용자 지정 도구 및 API 함수를 등록할 수 있습니다.
• 다중 모델 지원: 채팅, 추론, 계획과 같은 작업을 병렬로 실행하기 위해 별도의 워커 스레드에서 다른 모델을 실행하는 것을 지원합니다.
• 오프라인 기능: 모델이 다운로드되면 모든 처리가 클라이언트 측에서 이루어지므로 에이전트가 완전히 오프라인으로 작동할 수 있습니다.

Agentary의 사용 사례

Agentary는 데이터 프라이버시, 낮은 지연 시간 및 비용 효율성이 중요한 애플리케이션에 이상적입니다. 사용 사례로는 웨어러블 데이터를 로컬에서 분석하는 프라이버시 우선 건강 및 웰니스 동반자, 클라우드 API 제한 없이 작동하는 창의적 글쓰기 및 아이디어 구상 도구, 학생 데이터를 비공개로 유지하는 대화형 학습 튜터, 기밀 연구를 위한 로컬 문서 Q&A, 민감한 통신을 위한 온디바이스 이메일 및 글쓰기 도우미, 사용자 프라이버시를 보호하면서 서버 비용을 절감하는 임베디드 고객 지원 챗봇 등이 있습니다.

Agentary의 장점

Agentary의 주요 장점은 프라이버시 우선의 서버리스 아키텍처입니다. 모든 데이터를 사용자 장치에서 처리함으로써 민감한 정보가 제3자에게 노출되지 않도록 보장합니다. 이는 또한 현저하게 낮은 지연 시간과 더 반응적인 사용자 경험을 제공합니다. 또한 클라우드 기반 AI 서비스와 관련된 서버 비용, API 수수료 및 사용 제한을 제거합니다. MIT 라이선스에 따라 무료 오픈 소스 도구로서 개인 및 상업용 프로젝트 모두에 대해 개발자에게 완전한 제어와 유연성을 제공합니다.

가격 및 플랜

Agentary는 MIT 라이선스에 따라 배포되는 완전 무료 오픈 소스입니다. 라이선스 비용, API 비용 또는 사용 제한이 없어 모든 개인 및 상업용 프로젝트에서 사용할 수 있습니다.