PloyD

PloyD est une plateforme d'opérations d'IA d'entreprise conçue pour aider les équipes à mettre l'IA en production de manière efficace. Elle aborde les défis liés à la vitesse des développeurs, à la complexité de l'infrastructure, à l'efficacité de l'équipe et à la sécurité et la conformité, permettant le déploiement et la gestion de modèles et d'applications d'IA à grande échelle.

PloyD a été conçu pour résoudre plusieurs défis clés des opérations d'IA, notamment : la vitesse des développeurs (par exemple, développeurs bloqués en attente d'accès à l'environnement, résolution lente des bugs, pipelines CI/CD instables) ; la complexité de l'infrastructure (par exemple, temps de maintenance élevé pour les solutions personnalisées, longue intégration pour les nouvelles recrues, allocations d'infrastructure gaspillées) ; l'efficacité de l'équipe et la flexibilité des outils (par exemple, équipes de plateforme débordées, mises à niveau lentes, verrouillage du fournisseur) ; et la sécurité et la conformité (par exemple, CVE non corrigées, matrices de support obsolètes, conflits de dépendances, génération incohérente de SBOM, violations de licence non détectées).

GitOps est un composant essentiel de la plateforme PloyD AI Gateway. Il fournit une gestion d'infrastructure déclarative, des déploiements automatisés et une détection de dérive de configuration pour le service de modèles d'IA à grande échelle. Git agit comme la source unique de vérité pour toutes les configurations, permettant un CI/CD automatisé, une sécurité et une conformité intégrées, et une observabilité complète. L'implémentation GitOps de PloyD est construite sur le SDK de PloyD, traduisant les configurations YAML en appels d'API du SDK pour le déploiement de modèles, le routage de passerelle, et plus encore.

Le PloyD RAG Builder est un outil interactif pour créer des agents d'IA intelligents basés sur des documents. Le flux de travail implique : 1. Le téléchargement de documents (PDF, DOCX, TXT) pour former la base de connaissances. 2. Le traitement et l'indexation par l'IA, où le RAG Builder crée une base de connaissances consultable avec des embeddings d'IA. 3. La configuration de la personnalité et du style de réponse de l'agent d'IA. 4. Le test des réponses de l'agent. 5. Le déploiement de l'agent via un widget de site web, une intégration API ou une interface de chat hébergée.

La pile d'infrastructure d'IA de PloyD alimente diverses applications d'entreprise, notamment : les opérations et l'automatisation intelligentes (détection d'anomalies, maintenance prédictive) ; l'assistant de connaissances d'entreprise (chatbots alimentés par RAG pour le support interne/client) ; l'analyse prédictive et la prévision (prévision de la demande, prévisions financières) ; la détection de fraude et la sécurité (évaluation des risques en temps réel, surveillance de la sécurité) ; les applications de vision par ordinateur (reconnaissance d'images, détection d'objets, contrôle qualité) ; et l'IA de périphérie et l'intelligence IoT (traitement en temps réel en périphérie).

Le SDK de PloyD sert de moteur principal pour GitOps. Les principaux composants du SDK utilisés incluent : ModelServing (pour déployer et mettre à l'échelle des instances de modèle), AIGateway (pour configurer un routage intelligent), ModelRegistry (pour la gestion du cycle de vie du modèle), Security (pour créer des politiques et appliquer le RBAC) et Monitoring (pour configurer des alertes et suivre des métriques).

Le déploiement de modèles avec GitOps dans PloyD implique trois étapes : 1. Enregistrer le modèle : Enregistrez le modèle dans le registre PloyD à l'aide du SDK. 2. Créer la configuration GitOps : Définissez le déploiement du modèle dans un fichier YAML (par exemple, en spécifiant les détails du modèle, les ressources, la mise à l'échelle, les vérifications de santé). 3. Valider et déployer : Validez la configuration YAML dans Git. ArgoCD (ou Flux) détecte automatiquement les changements, valide la configuration, appelle le SDK de PloyD pour déployer le modèle, surveille sa santé et rapporte son statut.

La passerelle IA de PloyD offre des fonctionnalités de routage avancées configurées via GitOps YAML. Celles-ci incluent : le routage intelligent (basé sur la latence, optimisé en termes de coûts, stratégies d'équilibrage de charge) ; la gestion du trafic (répartition du trafic pondérée, déploiements canary, déploiements bleu-vert) ; la résilience (disjoncteurs, basculement automatique, vérifications de santé) ; et l'observabilité (métriques en temps réel, traçage distribué, tableaux de bord personnalisés). Elle prend également en charge la limitation de débit et l'authentification.

PloyD s'intègre aux flux de travail CI/CD, illustrés par GitHub Actions. Un flux de travail typique implique : 1. La validation : Tests automatisés et analyse de sécurité des configurations GitOps (par exemple, à l'aide de kubeval et Trivy). 2. Le déploiement : Déploiement de modèles via le SDK de PloyD, souvent déclenché par des commits sur des branches spécifiques. PloyD prend également en charge la promotion d'environnement, permettant le déploiement automatisé vers les environnements de développement et de staging, avec une validation manuelle pour la production.

PloyD offre une surveillance et une observabilité complètes pour les opérations d'IA. Cela inclut : les alertes spécifiques à GitOps (par exemple, pour les applications ArgoCD désynchronisées ou non saines) ; la surveillance des performances du modèle (latence des requêtes, débit, précision, dérive, utilisation du GPU, taux d'erreur) ; et la surveillance de la santé de l'infrastructure (état des pods Kubernetes, utilisation des ressources des nœuds, connectivité réseau et latence, performances de stockage).

PloyD met l'accent sur la sécurité et la conformité grâce à des fonctionnalités telles que : la politique en tant que code (par exemple, les politiques OPA Rego pour la sécurité des pods) ; le contrôle d'accès (basé sur Git, RBAC, pistes d'audit, commits signés) ; la sécurité des modèles (analyse des artefacts, stockage chiffré, surveillance de la sécurité en temps réel, application des politiques de conformité) ; et la sécurité de l'infrastructure (politiques réseau pour l'isolation, gestion des secrets pour les clés API, analyse de sécurité des images de conteneurs, surveillance de la sécurité en temps réel).

PloyD facilite les déploiements canary grâce aux configurations GitOps. Les utilisateurs définissent les versions de modèles stables et canary, les poids de trafic initiaux, les poids d'étape pour les augmentations progressives et les intervalles entre les étapes. Le système surveille les métriques clés (par exemple, taux de succès, latence, taux d'erreur) pendant le processus. Sur la base de seuils prédéfinis, PloyD décide automatiquement de promouvoir la nouvelle version ou de revenir en arrière, garantissant des déploiements sûrs et contrôlés des nouveaux modèles d'IA.

PloyD met en œuvre une stratégie robuste de reprise après sinistre. Cela inclut : les sauvegardes de bases de données (automatisées, horaires, rétention de 30 jours) ; les artefacts de modèle (réplication inter-régions, quotidienne, rétention de 90 jours) ; et la configuration (référentiel GitOps avec contrôle de version, rétention illimitée). Les procédures de récupération sont définies pour divers scénarios, avec des RTO allant de moins d'une minute pour une défaillance de pod à moins d'une heure pour une défaillance de région, et des RPO de 0 à moins de 15 minutes.

PloyD propose trois niveaux de support continu : le Support Basique, le Support Prioritaire et le Support Entièrement Géré. Tous les plans nécessitent de contacter les ventes pour une estimation, qui inclut la configuration initiale et les coûts d'infrastructure.

Le Support Basique fournit un support continu essentiel pour les déploiements stables. Il comprend un support client par e-mail (réponse en 48h), une surveillance d'infrastructure de base, des rapports de performance mensuels, une résolution de problèmes standard, des mises à jour de documentation et un accès au forum communautaire.

Le Support Prioritaire améliore l'offre de base avec le débogage et l'optimisation. Il comprend tout ce qui est inclus dans le Support Basique, plus un support client prioritaire (réponse en 24h), une assistance au débogage d'infrastructure, des revues d'optimisation des performances, une résolution des problèmes avec analyse des causes profondes, des recommandations d'optimisation mensuelles, un accès direct à Slack/Teams, une assistance à la mise à jour de la configuration et des modifications d'architecture pratiques.

Le Support Entièrement Géré offre une gestion complète et une évolution de l'architecture. Il comprend tout ce qui est inclus dans le Support Prioritaire, plus une tarification personnalisée basée sur les exigences, un ingénieur de support dédié, des mises à niveau d'architecture pratiques, une surveillance et une maintenance 24h/24 et 7j/7, une implémentation proactive de l'optimisation, l'intégration de nouvelles exigences, le développement de fonctionnalités personnalisées, des garanties SLA et une réponse d'urgence (2h).