Chroma

Chroma est une base de données de recherche open-source pionnière, spécialement conçue pour la nouvelle ère des applications d'IA. Sa mission principale est de fournir aux développeurs l'infrastructure essentielle pour construire des systèmes sophistiqués utilisant la Génération Augmentée par la Récupération (RAG). En augmentant les Grands Modèles de Langage (LLM) avec des informations pertinentes, privées ou à jour, Chroma aide à réduire les hallucinations et à améliorer de manière significative la qualité et la pertinence du texte généré. Elle sert de solution complète pour la gestion des embeddings, la recherche vectorielle, le stockage de documents, la recherche plein texte et le filtrage de métadonnées, le tout au sein d'un système unique et cohérent.

Au cœur de sa conception, Chroma vise la simplicité et la puissance, permettant aux développeurs de démarrer rapidement sur leurs machines locales et de passer en toute transparence à un environnement cloud entièrement géré et sans serveur à mesure que leurs besoins augmentent. L'architecture est spécifiquement adaptée aux charges de travail de l'IA, qui impliquent souvent des millions de petites collections de données avec des schémas d'accès variés. En s'appuyant sur une conception native du stockage d'objets, Chroma sépare le calcul et le stockage, ce qui la rend hautement évolutive et rentable par rapport aux systèmes de recherche traditionnels en mémoire.

Comment utiliser Chroma

Démarrer avec Chroma est conçu pour être simple pour les développeurs. Le processus implique généralement ces étapes :

1. Installation : Commencez par installer la bibliothèque cliente de Chroma dans votre environnement préféré. Chroma fournit des clients officiels pour Python (`pip install chromadb`) et JavaScript/TypeScript (`npm install chromadb`).
2. Initialiser le client : Créez une instance de client Chroma. Vous pouvez exécuter Chroma en mémoire, le faire persister sur un disque local, ou vous connecter à un serveur Chroma en cours d'exécution, y compris Chroma Cloud.
3. Créer une collection : Une collection est l'endroit où vous stockerez vos embeddings, documents et métadonnées. Vous pouvez créer une collection avec une simple commande, par exemple : `collection = client.create_collection(name="my_documents")`.
4. Ajouter des données : Ajoutez vos données à la collection. Cela inclut les documents (texte), leurs embeddings correspondants (vecteurs), les métadonnées (par exemple, source, date) et des identifiants uniques. Vous pouvez ajouter des données par lots pour plus d'efficacité.
5. Interroger la collection : Récupérez des informations pertinentes en interrogeant la collection. Vous pouvez effectuer une recherche sémantique en utilisant des textes de requête (que Chroma intégrera pour vous) ou en fournissant vos propres vecteurs de requête. Vous pouvez également appliquer de puissants filtres de métadonnées et des conditions de recherche plein texte pour affiner vos résultats.
6. Passer au Cloud : Lorsque votre application est prête pour la production, vous pouvez la déployer sur Chroma Cloud sans modifier votre code d'application. Il suffit de pointer votre client vers le point de terminaison du cloud avec une clé API pour accéder à un système de recherche évolutif, sans serveur et entièrement géré.

Fonctionnalités principales de Chroma

• Recherche Native pour l'IA : Combine la recherche vectorielle, la recherche plein texte et le filtrage de métadonnées dans une seule base de données.
• Open-Source : Sous licence Apache 2.0, offrant aux développeurs liberté et contrôle. Son utilisation, son inspection et sa contribution sont gratuites.
• Multimodal : Capable de gérer et de rechercher différents types de données, y compris le texte et les images.
• Convivial pour les développeurs : Des API simples pour Python et JavaScript/TypeScript, facilitant l'intégration dans n'importe quelle pile technologique d'IA.
• Architecture Évolutive : Basée sur une architecture distribuée et sans serveur qui sépare le stockage et le calcul. Évolue des projets locaux aux charges de travail de production à l'échelle du téraoctet.
• Rentable : La conception native du stockage d'objets réduit considérablement les coûts de stockage et de service des index, en particulier pour les données avec des schémas d'accès peu fréquents.
• Intégrations Riches : S'intègre de manière transparente avec les frameworks et bibliothèques d'IA populaires comme LangChain, LlamaIndex, OpenAI, Google et Hugging Face.
• Chroma Cloud : Une option entièrement gérée et sans serveur qui élimine le besoin de gérer l'infrastructure, offrant une tarification basée sur l'utilisation.

Cas d'utilisation pour Chroma

Chroma est l'épine dorsale d'un large éventail d'applications d'IA qui nécessitent des réponses contextuelles et la récupération de connaissances.

• Génération Augmentée par la Récupération (RAG) : Le cas d'utilisation principal. Alimenter les chatbots, les systèmes de Q&R et les outils de création de contenu en fournissant aux LLM des données factuelles, en temps réel ou propriétaires.
• Recherche dans la base de connaissances interne : Permettre aux employés de poser des questions en langage naturel et d'obtenir des réponses précises à partir de documents internes, de wikis et de bases de données.
• Assistants IA personnalisés : Créer des assistants qui se souviennent des interactions passées et ont accès aux données personnelles d'un utilisateur (par exemple, notes, e-mails) pour fournir une aide sur mesure.
• E-commerce et découverte de produits : Permettre la recherche sémantique de produits basée sur des requêtes descriptives plutôt que sur de simples mots-clés, améliorant l'expérience utilisateur et la conversion.
• Recherche et Analyse : Aider les chercheurs à parcourir de grandes quantités d'articles universitaires, de rapports et de données pour trouver rapidement des informations pertinentes.

Avantages de Chroma

Chroma se distingue par sa conception spécifique pour les développeurs d'IA. Ses principaux avantages incluent :

• Simplicité : Il offre une expérience "ça fonctionne tout seul", en abstrayant les complexités de l'indexation vectorielle et des systèmes distribués.
• Plateforme Unifiée : Il évite d'avoir à assembler des systèmes distincts pour la recherche vectorielle, la recherche par mot-clé et le stockage de métadonnées.
• Évolutivité à l'épreuve du futur : Les développeurs peuvent commencer petit et grandir sans se heurter à un mur, grâce à la transition transparente du local au cloud.
• Optimisé pour les charges de travail de l'IA : Son architecture est spécifiquement conçue pour les schémas d'accès en loi de puissance et les collections à haute cardinalité courantes dans les applications d'IA multi-locataires.
• Communauté Forte : Soutenu par une communauté open-source active sur Discord et GitHub, offrant un soutien et stimulant l'innovation.

Tarification et plans

Chroma propose un modèle de tarification flexible pour répondre à différents besoins, des développeurs individuels aux grandes entreprises.

• Open Source : La version auto-hébergée de Chroma est entièrement gratuite et sous licence Apache 2.0. Idéale pour le développement local, la recherche et les déploiements auto-gérés.
• Chroma Cloud - Plan Starter : 0 $/mois + utilisation. Ce plan est parfait pour démarrer rapidement. Il comprend 5 $ de crédits gratuits, et après cela, vous ne payez que ce que vous utilisez. Il prend en charge jusqu'à 10 bases de données et 10 membres d'équipe.
• Chroma Cloud - Plan Team : 250 $/mois + utilisation. Conçu pour les cas d'utilisation en production, ce plan comprend 100 $ de crédits, prend en charge jusqu'à 100 bases de données et 30 membres d'équipe, offre un support Slack et est conforme à la norme SOC II.
• Chroma Cloud - Plan Enterprise : Tarification personnalisée. Pour les organisations ayant des besoins à grande échelle, ce plan offre des bases de données et des membres d'équipe illimités, un support dédié, des clusters à locataire unique, des options BYOC (Apportez votre propre Cloud) et des SLA.

La tarification basée sur l'utilisation pour Chroma Cloud est calculée en fonction des données écrites (2,50 $/GiB), des données stockées (0,33 $/GiB/mois) et des données interrogées (0,0075 $/TiB interrogé + 0,09 $/GiB retourné).