Skillgraph

Skillgraph est un framework innovant et open-source (sous licence Apache 2.0) pour le développement d'agents IA plus efficaces, économiques et contrôlables que ceux construits avec les outils existants. Il répond aux frustrations courantes telles que les coûts opérationnels élevés, le manque de contrôle de l'agent et la complexité de la mise en œuvre de flux de travail multi-tours. En introduisant les 'compétences' comme unités de travail sophistiquées, Skillgraph permet aux agents de déléguer des tâches complexes, de gérer l'état et d'orchestrer plusieurs outils de manière efficace. Il se concentre sur la réduction du gaspillage de jetons, la simplification des interactions multi-tours et la garantie d'une haute fiabilité grâce à des mécanismes intelligents de mise en cache et de repli.

Comment utiliser Skillgraph

Les développeurs peuvent utiliser Skillgraph pour définir et enregistrer des 'compétences', qui sont des unités intelligentes encapsulant des tâches, des logiques et des flux de travail spécifiques. Au lieu d'instruire directement un agent à appeler des fonctions d'outils de bas niveau, les développeurs configurent des compétences qui savent quand elles sont pertinentes (par détection d'intention), peuvent gérer des conversations multi-tours (Mode Compétence) et gérer leurs propres processus internes. Le framework fournit une architecture pour la mémoire (Sujet-Objet), la mise en cache, la fiabilité (repli LLM) et la gestion des conversations (résumé, recherche vectorielle) pour prendre en charge ces compétences. Le code est disponible sur GitHub, permettant une implémentation et une personnalisation directes.

Fonctionnalités principales de Skillgraph

• Architecture basée sur les compétences: Remplace l'appel d'outils traditionnel par des 'compétences' sophistiquées qui gèrent leur propre logique, orchestrent plusieurs outils et gèrent l'état.
• Support natif multi-tours (Mode Compétence): Permet aux compétences de prendre le contrôle exclusif de la conversation pendant plusieurs tours, simplifiant les flux de travail complexes comme la réservation ou le remplissage de formulaires.
• Architecture de mémoire Sujet-Objet: Un système rapide, économique et efficace pour gérer l'état de la conversation en suivant les objectifs de l'utilisateur (Sujet) et le sujet de discussion actuel (Objet), remplaçant les systèmes RAG complexes pour l'état.
• Mise en cache intelligente: Implémente une mise en cache multi-couches (mise en cache de prompt Anthropic pour les prompts système, Redis pour l'historique des conversations) afin de réduire considérablement les coûts et d'améliorer la vitesse de récupération.
• Fiabilité intégrée (Chaînes de repli LLM): Assure une disponibilité élevée (99,9%) en implémentant des chaînes de repli pour les requêtes d'API LLM (par exemple, Beta → Alpha → Réessayer) et une dégradation gracieuse pour l'analyse d'état.
• Open Source (Apache 2.0): Disponible gratuitement pour une utilisation commerciale, la modification et la distribution, avec le code sur GitHub.
• Compréhension d'intention: Utilise un classificateur rapide (Utility LLM) pour détecter l'intention de l'utilisateur et acheminer les messages vers la compétence la plus pertinente en fonction de la similarité sémantique et de la correspondance de mots-clés.
• Recherche vectorielle pour le rappel: Utilise pgvector pour rechercher sémantiquement les messages passés au sein d'une conversation, permettant aux agents de rappeler des informations d'interactions antérieures dans de longues conversations.
• Résumé de conversation: Emploie un résumé incrémental toutes les 10 messages (configurable) pour gérer les limites de contexte, permettant aux conversations de se poursuivre indéfiniment.
• Support multi-LLM: Prend en charge divers LLM, y compris Anthropic, OpenAI, Azure, Bedrock, Deepseek, Together et Huggingface.
• Garde-fous et sécurité: Inclut des fonctionnalités telles que la limitation de débit et la détection d'injection SQL.

Cas d'utilisation pour Skillgraph

Skillgraph est idéal pour les développeurs et les organisations cherchant à construire des agents IA avancés, fiables et rentables. Les cas d'utilisation spécifiques incluent le développement d'agents IA conversationnels sophistiqués pour le support client ou les assistants virtuels, la création de systèmes complexes d'automatisation de tâches multi-étapes (par exemple, réservation de billets, traitement de commandes, collecte de données) et la mise en œuvre de flux de travail basés sur l'IA qui nécessitent une mémoire persistante et un contexte sur de longues interactions. Il est également adapté pour expérimenter et construire des applications IA agéntiques de nouvelle génération qui exigent une haute fiabilité et une efficacité des coûts.

Avantages de Skillgraph

Skillgraph offre plusieurs avantages clés par rapport aux frameworks traditionnels d'agents IA. Il offre une efficacité de coût significative en réduisant l'utilisation de jetons grâce à la délégation basée sur les compétences et à la mise en cache intelligente, ce qui entraîne une réduction de 89% des coûts des jetons de prompt système. Les développeurs obtiennent un contrôle amélioré sur le comportement de l'agent en encapsulant la logique dans les compétences, garantissant des résultats plus prévisibles. Le framework simplifie les flux de travail multi-tours avec un support natif via le Mode Compétence, éliminant le besoin de solutions de contournement complexes. Les chaînes de repli LLM intégrées et les mécanismes de dégradation gracieuse garantissent un fonctionnement robuste et une fiabilité accrue même pendant les pannes d'API. De plus, son architecture de mémoire Sujet-Objet offre une alternative rapide et économique au RAG traditionnel pour gérer l'état conversationnel, et sa nature open-source offre une flexibilité pour une utilisation commerciale et des contributions de la communauté.