Union.ai

Union.ai est la plateforme définitive pour construire, servir et mettre à l'échelle des systèmes d'IA complexes et composés. Elle répond au défi courant des modèles d'IA qui échouent en production en fournissant une couche d'orchestration robuste, évolutive et efficace. Créée par les créateurs du populaire orchestrateur open-source Flyte, Union.ai est conçue pour les ingénieurs IA/ML qui ont besoin de combler le fossé entre le traitement des données et l'apprentissage automatique, d'assurer la cohérence entre les équipes et de conserver un contrôle total sur leur cycle de vie de développement. La plateforme unifie les données, automatise les flux de travail et suit la lignée des données, offrant une base solide pour l'IA d'entreprise.

Comment utiliser Union.ai

Le flux de travail des développeurs sur Union.ai est conçu pour la vitesse et la préparation à la production :

1. Définir les flux de travail : En utilisant le SDK Python Flytekit, les développeurs définissent leurs tâches et leurs flux de travail comme du code Python pur. Cela inclut les étapes de traitement des données, d'entraînement de modèles, d'évaluation et de déploiement.
2. Développement et débogage locaux : Testez et déboguez les flux de travail localement. Union.ai propose des tâches interactives qui permettent un débogage à distance en direct dans un environnement de type VSCode directement dans le navigateur, réduisant les boucles de développement de plusieurs heures à quelques secondes.
3. Déployer sur Union.ai : Une fois prêt, enregistrez les flux de travail sur la plateforme Union.ai. Le constructeur d'images de la plateforme peut créer automatiquement des images de conteneurs sans avoir besoin de Docker sur la machine locale.
4. Exécuter et mettre à l'échelle : Déclenchez les flux de travail manuellement, selon un calendrier, ou de manière réactive en fonction d'événements. Union.ai gère l'infrastructure sous-jacente, en augmentant ou en diminuant les ressources selon les besoins, même jusqu'à zéro, pour gérer efficacement les coûts.
5. Surveiller et observer : Utilisez l'interface utilisateur de Union.ai pour surveiller les exécutions en temps réel. Accédez à des journaux détaillés, suivez la consommation de ressources (CPU, mémoire, GPU) par tâche, et observez les coûts globaux du cloud alloués par projet, équipe ou flux de travail.

Fonctionnalités principales de Union.ai

• Performance et échelle optimisées : Atteignez des temps d'exécution de l'ordre de la milliseconde avec des conteneurs chauds réutilisables. Mettez à l'échelle sur plusieurs clusters et clouds pour la disponibilité des ressources et la conformité, avec un parallélisme massif et une mise en cache complète du flux de travail.
• Expérience de développement agréable : Comprend un constructeur d'images dans le cloud, une gestion des secrets en libre-service, une journalisation basée sur l'interface utilisateur, un débogage à distance interactif et une automatisation réactive des flux de travail pour rendre le développement plus rapide et plus agréable.
• Efficacité inégalée : Réduisez considérablement les coûts en tirant parti des GPU fractionnaires, des instances Spot avec récupération automatique et du silicium personnalisé. La plateforme dispose d'une mise à l'échelle automatique efficace avec Karpenter et de capacités de 'scale-to-zero' pour éliminer les coûts des ressources inactives.
• Sécurité et gouvernance prêtes pour l'entreprise : Déployez dans votre propre cloud (modèle BYOC) afin que les données et le code ne quittent jamais votre VPC. Il inclut un contrôle d'accès granulaire basé sur les rôles (RBAC), une haute disponibilité et est conforme à la norme SOC 2 Type II.
• Intégrations transparentes : Fonctionne avec les outils sur lesquels les développeurs comptent déjà, y compris les principaux clouds (AWS, GCP, Azure), les modèles et les frameworks comme Ray, Spark et Dask, garantissant l'absence de verrouillage propriétaire.

Cas d'utilisation pour Union.ai

Union.ai est utilisé par des entreprises de premier plan pour leurs charges de travail d'IA les plus exigeantes :

• Conduite autonome : Des entreprises comme Woven by Toyota et Wayve utilisent Union.ai pour gérer l'échelle immense du traitement des données, de la simulation et de l'entraînement de modèles nécessaires au développement de la technologie de conduite autonome, économisant des millions en coûts d'infrastructure.
• Biologie synthétique : Cradle accélère le développement ML pour ses modèles de conception de protéines, en orchestrant des pipelines bio-informatiques complexes avec une reproductibilité et une échelle complètes.
• Opérations LLM et IA générative (LLMOps) : Affinez et servez des grands modèles de langage (LLM) en utilisant des techniques comme LoRA et QLoRA dans un environnement de production reproductible et optimisé en ressources. Construisez et gérez des pipelines RAG (Génération Augmentée par Récupération) complexes.
• Vision par ordinateur : Construisez, entraînez et déployez des pipelines de détection d'objets et d'autres applications de vision par ordinateur, en orchestrant chaque étape, de l'ingestion des données au service du modèle.
• Consolidation des plateformes de données et de ML : Des entreprises comme Porch ont migré d'outils comme Airflow pour consolider leurs opérations de données et de ML sur une seule plateforme unifiée pour une plus grande efficacité et cohérence.

Avantages de Union.ai

• Optimisation des coûts : L'observabilité des coûts en temps réel, le 'scale-to-zero' et l'utilisation efficace des instances spot réduisent considérablement les coûts de calcul incontrôlés.
• Augmentation de la vélocité des développeurs : Des fonctionnalités comme la mise en cache intelligente, le débogage à distance et la construction automatisée d'images rendent les développeurs plus heureux et plus productifs.
• Fiabilité de niveau production : Conçu pour les charges de travail critiques avec une haute disponibilité et une gestion robuste des erreurs.
• Flexibilité et absence de verrouillage : S'intègre à votre pile existante et vous permet de fonctionner sur n'importe quel cloud, évitant ainsi le verrouillage propriétaire.
• Sécurité et conformité améliorées : Le modèle "Apportez votre propre cloud" (BYOC) garantit que vos données sensibles et votre code propriétaire restent en sécurité au sein de votre propre infrastructure.

Tarification et plans

Union.ai propose des modèles de tarification flexibles pour répondre à différents besoins :

• Serverless Pay As You Go : Idéal pour les particuliers et les petites équipes. Il offre une expérience de "livraison en quelques secondes" sans gestion d'infrastructure. Les nouveaux utilisateurs reçoivent 30 $ de crédit gratuit. La tarification est basée sur la consommation :
  • Cœur de CPU : 0,12 $ / Cœur-Heure
  • GPU T4 : 0,71 $ / GPU-Heure
  • GPU A100 (40 Go) : 4,48 $ / GPU-Heure
  • Mémoire : 0,029 $ / Go-Heure
• Votre Cloud & Sur Site : Conçu pour les entreprises qui exigent que les données restent dans leur propre VPC. Ce plan implique des frais de plateforme de type SaaS plus un pourcentage de l'utilisation de calcul gérée par Union.ai. Contactez le service commercial pour une tarification détaillée.