Agentary

Agentary est un framework open-source et local-first conçu pour que les développeurs créent et déploient des agents IA autonomes qui s'exécutent entièrement dans le navigateur de l'utilisateur. En utilisant des technologies comme WebGPU et WebAssembly, Agentary amène l'exécution de l'IA à la périphérie (edge), éliminant le besoin de serveurs, d'API basées sur le cloud et de traitement de données externe. Cette approche privilégie la confidentialité de l'utilisateur, réduit la latence et supprime les coûts opérationnels, permettant le développement d'applications web alimentées par l'IA, hautement réactives et sécurisées.

Comment utiliser Agentary

Pour commencer avec Agentary, les développeurs peuvent installer le SDK via npm en utilisant la commande npm install agentary-js. Après l'installation, importez le SDK dans votre projet JavaScript ou TypeScript. Vous pouvez ensuite définir un objectif pour votre agent IA, qui peut aller d'une simple instruction à un flux de travail complexe en plusieurs étapes impliquant divers outils. Le framework se charge de charger un modèle de langage quantifié dans le navigateur, où il s'exécute sur WebGPU pour des performances accélérées. L'agent raisonne, planifie et exécute ensuite des tâches localement, comme appeler des outils personnalisés ou des API, sans qu'aucune donnée ne quitte l'appareil de l'utilisateur.

Fonctionnalités principales de Agentary

• Exécution Native au Navigateur : Exécute des modèles de langage quantifiés directement dans le navigateur en utilisant WebGPU ou WebAssembly, éliminant les dépendances serveur.
• Accélération WebGPU : Exploite le GPU de l'appareil pour une inférence quasi en temps réel et un streaming de jetons fluide et réactif.
• Flux de Travail Agentiques : Permet la création et l'exécution de flux de travail d'agents complexes en plusieurs étapes avec une logique conditionnelle.
• Intégration d'Outils et d'API : Permet aux développeurs d'enregistrer des outils personnalisés et des fonctions API que les agents IA peuvent appeler et utiliser pendant l'exécution.
• Support Multi-Modèle : Prend en charge l'exécution de différents modèles dans des threads de travail séparés pour une exécution parallèle de tâches comme le chat, le raisonnement et la planification.
• Fonctionnalité Hors Ligne : Une fois les modèles téléchargés, les agents peuvent fonctionner complètement hors ligne, car tout le traitement se fait côté client.

Cas d'utilisation pour Agentary

Agentary est idéal pour les applications où la confidentialité des données, la faible latence et la rentabilité sont essentielles. Les cas d'utilisation incluent : des Compagnons de Santé et de Bien-être axés sur la Confidentialité qui analysent les données des wearables localement ; des Outils de Rédaction Créative et d'Idéation qui fonctionnent sans les limites des API cloud ; des Tuteurs d'Apprentissage Interactifs qui gardent les données des étudiants privées ; des Q&R sur Documents Locaux pour la recherche confidentielle ; des Assistants de Rédaction et d'Email sur l'Appareil pour les communications sensibles ; et des Chatbots de Support Client Intégrés qui réduisent les coûts de serveur tout en préservant la vie privée des utilisateurs.

Avantages de Agentary

Le principal avantage d'Agentary est son architecture sans serveur et axée sur la confidentialité. En traitant toutes les données sur l'appareil de l'utilisateur, il garantit que les informations sensibles ne sont jamais exposées à des tiers. Cela se traduit également par une latence considérablement réduite et une expérience utilisateur plus réactive. De plus, il élimine les coûts de serveur, les frais d'API et les limites d'utilisation associés aux services d'IA basés sur le cloud. En tant qu'outil gratuit et open-source sous licence MIT, il offre aux développeurs un contrôle et une flexibilité complets pour les projets personnels et commerciaux.

Tarification et plans

Agentary est entièrement gratuit et open-source, distribué sous la licence MIT. Il n'y a pas de frais de licence, de coûts d'API ou de limites d'utilisation, ce qui le rend accessible pour tous les projets personnels et commerciaux.