Giskard

Giskard est une plateforme de test complète dédiée à garantir la qualité, la sécurité et la fiabilité des agents d'IA, en particulier ceux construits sur de grands modèles de langage (LLM). Dans un paysage où plus de 90 % des projets GenAI n'atteignent pas la production en raison de risques cachés, Giskard fournit les outils nécessaires aux équipes d'IA d'entreprise, aux data scientists et aux professionnels de l'assurance qualité pour construire et déployer l'IA en toute confiance. La plateforme aborde les vulnérabilités critiques telles que les hallucinations, la désinformation, les injections de prompt, les fuites de données, la toxicité et les biais, prévenant ainsi les dommages potentiels à la réputation et garantissant la conformité réglementaire.

Fondée par des professionnels expérimentés de l'IA issus de Dataiku et Thales, la mission de Giskard est de rendre l'IA digne de confiance. La plateforme est construite sur le principe de transformer les connaissances métier en tests d'IA exploitables, permettant même aux membres non techniques de l'équipe de participer au processus de validation. Elle propose à la fois une bibliothèque Python open-source pour les développeurs individuels et un Hub LLM de niveau entreprise pour les équipes nécessitant des solutions de test évolutives et collaboratives.

Comment utiliser Giskard

Giskard rationalise le processus de test de l'IA en quelques étapes clés. Tout d'abord, les utilisateurs connectent leur application LLM et leurs données métier à la plateforme. Giskard génère ensuite automatiquement des suites de tests exhaustives adaptées au secteur et au cas d'utilisation spécifiques. Ces tests analysent systématiquement un large éventail de vulnérabilités. La plateforme facilite une boucle de test continue, en s'intégrant aux pipelines CI/CD pour surveiller les indicateurs de performance clés et alerter les équipes des nouvelles menaces. Pour une analyse plus approfondie, les équipes peuvent utiliser le tableau de bord collaboratif pour annoter les résultats, déboguer les problèmes et affiner le comportement de l'IA, en s'assurant que les exigences spécifiques de l'entreprise sont respectées. La bibliothèque open-source permet aux développeurs d'implémenter ces tests directement dans leur code Python, ce qui la rend idéale pour les projets en phase de démarrage et les data scientists individuels.

Fonctionnalités principales de Giskard

• Détection exhaustive des risques : Identifie un large éventail de problèmes, notamment les hallucinations, les injections de prompt, la divulgation de données, la toxicité, les stéréotypes et les défaillances de robustesse.
• Génération automatisée de tests : Se connecte à vos données métier pour créer automatiquement des scénarios de test complets, y compris des tests pour la qualité de la Génération Augmentée par Récupération (RAG) et l'appel de fonctions/outils.
• Red Teaming continu : Teste de manière proactive et continue les agents d'IA contre les menaces émergentes pour garantir une protection continue après le déploiement.
• Tableau de bord collaboratif : Une interface intuitive pour que les équipes produit, QA et techniques travaillent ensemble à l'annotation, au débogage et à la validation des sorties de l'IA.
• Sécurité et déploiement de niveau entreprise : Offre des options de déploiement flexibles (SaaS, sur site, cloud privé) avec des fonctionnalités de sécurité robustes comme le contrôle d'accès basé sur les rôles (RBAC), l'intégration SSO et la conformité RGPD.
• Bibliothèque Python open-source : Une bibliothèque gratuite et puissante pour les ingénieurs en IA et les data scientists afin d'intégrer les tests d'IA directement dans leur flux de travail de développement.
• Validation indépendante : Fournit des métriques quantitatives et une validation par des experts tiers pour renforcer la confiance avec les parties prenantes.

Cas d'utilisation pour Giskard

Giskard est polyvalent et peut être appliqué dans diverses industries et applications. Par exemple, dans le service client, il peut être utilisé pour tester les chatbots d'IA afin de s'assurer qu'ils fournissent des informations précises et n'hallucinent pas ou ne divulguent pas de données clients sensibles. Dans la finance et l'assurance, il aide à valider les modèles de détection de fraude et à s'assurer qu'ils sont exempts de biais. Giskard est également un outil de premier plan pour l'évaluation comparative des systèmes RAG, en comparant différents modèles et approches pour trouver la solution optimale pour les applications qui reposent sur des bases de connaissances externes. Des entreprises comme L'Oréal ont utilisé Giskard pour évaluer et améliorer des modèles d'IA avancés pour des tâches telles que la détection de points de repère faciaux, améliorant ainsi la précision et la fiabilité.

Avantages de Giskard

Le principal avantage de Giskard est sa capacité à réduire les risques des projets d'IA, augmentant ainsi considérablement leurs chances de déploiement réussi. Il comble le fossé entre le développement technique et les exigences métier en fournissant une plateforme commune pour la collaboration. Cette approche collaborative garantit que le comportement de l'IA est aligné sur la logique métier et les normes éthiques. Les capacités d'automatisation de la plateforme permettent d'économiser un temps et des ressources considérables dans la phase de test, tandis que sa surveillance continue offre une tranquillité d'esprit après le déploiement. Avec une offre open-source puissante et une solution d'entreprise sécurisée et évolutive, Giskard répond à l'ensemble des besoins de développement de l'IA, de l'expérimentation individuelle aux déploiements critiques à grande échelle.

Tarification et plans

Giskard propose un modèle de tarification freemium avec deux niveaux principaux :

• Open-Source : Ce plan est entièrement gratuit et idéal pour les data scientists indépendants, les ingénieurs en IA et les projets en phase de démarrage. Il comprend une bibliothèque Python pour tester les agents d'IA dans le code, une détection exhaustive des vulnérabilités de sécurité et la génération automatisée de tests de qualité RAG. Le support est fourni via une communauté Discord publique.
• Entreprise : Il s'agit d'un abonnement annuel payant par agent LLM, conçu pour les équipes d'IA d'entreprise qui ont besoin de tests à grande échelle. Il comprend toutes les fonctionnalités open-source plus un tableau de bord collaboratif, un red teaming continu avec des alertes, une sécurité avancée (déploiement sur site, cloud privé ou SaaS), un contrôle d'accès basé sur les rôles, le SSO et une API sécurisée pour l'automatisation CI/CD. Il est également accompagné d'un support dédié et de SLA prioritaires. Un devis peut être demandé directement à l'équipe de Giskard.