Agentary

Agentary é um framework de código aberto e local-first, projetado para que desenvolvedores criem e implementem agentes de IA autônomos que rodam inteiramente no navegador do usuário. Ao utilizar tecnologias como WebGPU e WebAssembly, o Agentary leva a execução de IA para a borda, eliminando a necessidade de servidores, APIs baseadas em nuvem e processamento de dados externo. Essa abordagem prioriza a privacidade do usuário, reduz a latência e remove custos operacionais, permitindo o desenvolvimento de aplicações web com IA altamente responsivas e seguras.

Como usar Agentary

Para começar com o Agentary, os desenvolvedores podem instalar o SDK via npm usando o comando npm install agentary-js. Após a instalação, importe o SDK em seu projeto JavaScript ou TypeScript. Você pode então definir um objetivo para seu agente de IA, que pode variar de um simples prompt a um fluxo de trabalho complexo de múltiplos passos envolvendo várias ferramentas. O framework cuida de carregar um modelo de linguagem quantizado no navegador, onde ele roda em WebGPU para um desempenho acelerado. O agente então raciocina, planeja e executa tarefas localmente, como chamar ferramentas personalizadas ou APIs, sem que nenhum dado saia do dispositivo do usuário.

Recursos principais do Agentary

• Execução Nativa no Navegador: Executa modelos de linguagem quantizados diretamente no navegador usando WebGPU ou WebAssembly, eliminando dependências de servidor.
• Aceleração WebGPU: Aproveita a GPU do dispositivo para inferência quase em tempo real e streaming de tokens suave e responsivo.
• Fluxos de Trabalho de Agente: Permite a criação e execução de fluxos de trabalho de agente complexos e de múltiplos passos com lógica condicional.
• Integração de Ferramentas e APIs: Permite que os desenvolvedores registrem ferramentas personalizadas e funções de API que os agentes de IA podem chamar e utilizar durante a execução.
• Suporte a Múltiplos Modelos: Suporta a execução de diferentes modelos em threads de worker separadas para execução paralela de tarefas como chat, raciocínio e planejamento.
• Funcionalidade Offline: Uma vez que os modelos são baixados, os agentes podem funcionar completamente offline, pois todo o processamento acontece no lado do cliente.

Casos de uso para Agentary

O Agentary é ideal para aplicações onde a privacidade de dados, baixa latência e eficiência de custos são críticas. Os casos de uso incluem: Companheiros de Saúde e Bem-Estar com Foco na Privacidade que analisam dados de wearables localmente; Ferramentas de Escrita Criativa e Ideação que operam sem limites de API na nuvem; Tutores de Aprendizagem Interativos que mantêm os dados dos alunos privados; Q&A de Documentos Locais para pesquisa confidencial; Assistentes de E-mail e Escrita no Dispositivo para comunicações sensíveis; e Chatbots de Suporte ao Cliente Incorporados que reduzem os custos do servidor enquanto preservam a privacidade do usuário.

Vantagens do Agentary

A principal vantagem do Agentary é sua arquitetura sem servidor e com foco na privacidade. Ao processar todos os dados no dispositivo do usuário, ele garante que informações sensíveis nunca sejam expostas a terceiros. Isso também resulta em latência significativamente menor e uma experiência de usuário mais responsiva. Além disso, elimina custos de servidor, taxas de API e limites de uso associados a serviços de IA baseados em nuvem. Como uma ferramenta gratuita e de código aberto sob a Licença MIT, oferece aos desenvolvedores controle total e flexibilidade para projetos pessoais e comerciais.

Preços e planos

O Agentary é totalmente gratuito e de código aberto, distribuído sob a Licença MIT. Não há taxas de licenciamento, custos de API ou limites de uso, tornando-o acessível para todos os projetos pessoais e comerciais.