Aporia

Aporia, récemment acquise par Coralogix, est une plateforme complète conçue pour fournir une IA sécurisée, fiable et digne de confiance aux entreprises. Elle offre des garde-fous (Guardrails) et une observabilité (Observability) de pointe pour toute charge de travail IA, se spécialisant dans la sécurisation des applications d'IA Générative et de Grands Modèles de Langage (LLM). Aporia permet aux organisations de déployer l'IA en toute confiance en atténuant les risques tels que les hallucinations, les attaques par injection de prompt, les fuites de données et le contenu toxique, garantissant que le comportement de l'IA est conforme aux politiques de l'entreprise et aux valeurs de la marque.

La plateforme est conçue pour une intégration transparente et de hautes performances. Elle utilise un moteur de détection unique multiSLM (plusieurs Petits Modèles de Langage) au lieu d'un seul grand LLM, ce qui lui permet d'atteindre une précision et une vitesse exceptionnelles avec une latence et un coût minimes. Cela garantit que l'expérience utilisateur de l'application IA protégée reste fluide et non affectée. Aporia est conçue pour s'intégrer directement dans les flux de travail existants, en s'intégrant avec diverses infrastructures et passerelles IA comme Vertex AI, Portkey, Litellm et Cloudflare.

Comment utiliser Aporia

La mise en œuvre d'Aporia pour protéger votre IA est un processus simple en quatre étapes qui peut être réalisé en quelques minutes :

1. Personnaliser : Commencez par sélectionner des politiques dans le vaste catalogue d'Aporia ou créez vos propres politiques personnalisées adaptées à vos besoins spécifiques. Vous pouvez configurer les niveaux de sensibilité pour chaque politique et décider de l'action en temps réel à entreprendre lorsqu'une politique est violée, comme enregistrer l'événement, avertir l'utilisateur, reformuler la sortie ou remplacer complètement la réponse.
2. Tester et Ajuster : Utilisez l'environnement de bac à sable en direct pour tester le comportement de votre agent IA par rapport aux politiques configurées. Cela vous permet d'affiner la sensibilité et les actions de chaque politique en utilisant des exemples préconfigurés ou vos propres cas de test jusqu'à ce que vous obteniez le comportement souhaité, garantissant la précision avant le déploiement.
3. Détecter et Intercepter : Une fois que vous êtes satisfait des configurations de politique, vous pouvez les activer en un seul clic. Aporia commence immédiatement à protéger votre produit IA en direct, en interceptant et en gérant les prompts et les réponses en temps réel selon vos règles.
4. Superviser : Surveillez les performances et la sécurité de votre IA via un tableau de bord complet. Examinez les journaux en direct des violations de politique, les actions entreprises et obtenez des informations statistiques sur votre IA et le comportement des utilisateurs via l'Explorateur de Sessions. Cela offre une transparence totale et un contrôle continu sur vos systèmes d'IA.

Fonctionnalités principales de Aporia

• Garde-fous de Sécurité IA : Détecte et bloque les injections de prompt, les tentatives de jailbreak, les fuites de prompt et les fuites de données (y compris les PII). Applique les politiques spécifiques à l'entreprise et empêche les opérations SQL non autorisées.
• Garde-fous de Fiabilité IA : Atténue les hallucinations RAG, détecte et remplace le contenu toxique ou profane, s'assure que les conversations restent sur les sujets autorisés et bloque les discussions sur les concurrents ou les sujets restreints.
• Politiques Personnalisées : Offre la flexibilité de créer des politiques de garde-fous personnalisées parfaitement alignées sur les valeurs de votre marque et vos exigences opérationnelles.
• Moteur de Détection Multi-SLM : Un moteur de pointe utilisant plusieurs petits modèles de langage pour une détection de haute précision et à faible latence (moins de 300 ms), garantissant une expérience utilisateur transparente.
• Observabilité en Temps Réel : Fournit des tableaux de bord en direct, des explorateurs de session et des journaux pour une visibilité complète des interactions de votre IA, des violations de politique et des performances globales.
• Gestion des Coûts des LLM : Suivez chaque requête et chaque jeton pour contrôler les coûts des LLM. Analysez les dépenses par tâche, version de modèle ou région, et détectez les anomalies de coût en temps réel pour optimiser votre budget.
• Support Multimodal et en Streaming : Étend les garde-fous aux applications multimodales, y compris les bots audio en temps réel, et gère de manière transparente les réponses en streaming pour valider le contenu à la volée.
• Conformité de Niveau Entreprise : Aporia est certifié HIPAA, SOC 2, Pentest et GDPR, offrant des options de déploiement sécurisées comme le cloud privé pour garantir la confidentialité des données.

Cas d'utilisation pour Aporia

Aporia est idéal pour toute organisation déployant des applications IA destinées aux clients ou internes :

• Sécurisation des Chatbots Publics : Protégez les assistants IA contre les utilisateurs malveillants tentant des injections de prompt ou essayant d'extraire des informations système sensibles.
• Garantie de la Sécurité de la Marque : Empêchez l'IA de générer du contenu toxique, non conforme à la marque ou inapproprié qui pourrait nuire à la réputation de l'entreprise.
• Conformité Réglementaire : Détectez et masquez automatiquement les Informations d'Identification Personnelle (PII) dans les prompts et les réponses pour se conformer au RGPD, à l'HIPAA et à d'autres réglementations sur la confidentialité des données.
• Amélioration de la Fiabilité de l'IA : Réduisez le risque d'hallucinations RAG et non-RAG, en veillant à ce que l'IA fournisse des informations précises et fiables basées sur le contexte fourni.
• Optimisation des Coûts : Pour les entreprises utilisant intensivement les LLM, le suivi des coûts d'Aporia fournit des informations cruciales pour éviter les dépassements de budget et optimiser les dépenses en services d'IA.

Avantages de Aporia

Aporia offre des avantages significatifs pour les équipes qui construisent avec l'IA :

• Protection Complète : Une seule plateforme pour gérer la sécurité, la fiabilité et le coût de tous les modèles d'IA.
• Haute Performance : La faible latence et l'efficacité de pointe garantissent que l'ajout de la sécurité ne dégrade pas l'expérience utilisateur.
• Personnalisation et Contrôle Total : Le contrôle granulaire sur les politiques et les actions en temps réel donne aux équipes le pouvoir de définir exactement comment leur IA doit se comporter.
• Mise en Œuvre Rapide : Commencez en moins de 5 minutes avec une intégration transparente dans les piles IA existantes.
• Confiance des Entreprises : Construit avec des normes de sécurité et de conformité de niveau entreprise, ce qui le rend adapté aux entreprises du Fortune 500 et aux industries réglementées.

Tarification et plans

Aporia propose une structure tarifaire flexible pour répondre à différents besoins :

• Plan Gratuit : 0 $/mois. Comprend 1 million d'Unités de Garde-fou (GRU) par mois, 3 projets, 5 sièges, 3 politiques personnalisées et 7 jours d'historique de session. Idéal pour les particuliers et les petites équipes qui débutent.
• Plan Team : 60 $/mois. Comprend 5 millions de GRU par mois (avec des GRU supplémentaires à 12 $ par million), projets et sièges illimités, 10 politiques personnalisées, 30 jours d'historique de session et support par e-mail/Slack.
• Plan Enterprise : Tarification personnalisée. Offre une allocation de GRU personnalisée et inclut tout ce qui se trouve dans le plan Team, plus des politiques personnalisées illimitées, 90 jours d'historique, des SLA, un support dédié, le SSO, des options de déploiement en cloud privé et des rapports de conformité complets (SOC 2, HIPAA).