Chroma

Chroma 是一款开创性的开源检索数据库，专为新时代的 AI 应用而设计。其核心使命是为开发者提供构建基于检索增强生成（RAG）的复杂系统所需的基础设施。通过为大型语言模型（LLM）补充相关的、私有的或最新的信息，Chroma 有助于减少幻觉，并显著提高生成文本的质量和相关性。它作为一个全面的解决方案，将嵌入管理、向量搜索、文档存储、全文搜索和元数据过滤等功能整合在一个统一的系统中。

Chroma 的核心设计理念是简洁与强大，使开发者能够在本地机器上快速上手，并随着需求的增长无缝扩展到完全托管的无服务器云环境。其架构专为 AI 工作负载量身定制，这些工作负载通常涉及数百万个具有不同访问模式的较小数据集。通过利用原生对象存储设计，Chroma 分离了计算和存储，使其与传统的内存搜索系统相比，具有更高的可扩展性和成本效益。

如何使用 Chroma

Chroma 的入门过程对开发者来说非常简单。通常包括以下步骤：

1. 安装：首先，在您偏好的环境中安装 Chroma 客户端库。Chroma 提供 Python（`pip install chromadb`）和 JavaScript/TypeScript（`npm install chromadb`）的官方客户端。
2. 初始化客户端：创建一个 Chroma 客户端实例。您可以在内存中运行 Chroma，将其持久化到本地磁盘，或连接到正在运行的 Chroma 服务器，包括 Chroma Cloud。
3. 创建集合：集合是您存储嵌入、文档和元数据的地方。您可以使用一个简单的命令创建集合，例如：`collection = client.create_collection(name="my_documents")`。
4. 添加数据：将您的数据添加到集合中。这包括文档（文本）、其对应的嵌入（向量）、元数据（如来源、日期）和唯一 ID。为了提高效率，您可以批量添加数据。
5. 查询集合：通过查询集合来检索相关信息。您可以使用查询文本（Chroma 会为您嵌入）或提供自己的查询向量来进行语义搜索。您还可以应用强大的元数据过滤器和全文搜索条件来优化结果。
6. 扩展到云端：当您的应用准备好投入生产时，您可以将其部署到 Chroma Cloud，而无需更改应用程序代码。只需将您的客户端指向带有 API 密钥的云端点，即可访问一个可扩展、无服务器且完全托管的检索系统。

Chroma 的核心功能

• AI 原生检索：在一个数据库中结合了向量搜索、全文搜索和元数据过滤。
• 开源：采用 Apache 2.0 许可证，为开发者提供了自由和控制权。可以免费使用、审查和贡献。
• 多模态：能够处理和搜索不同类型的数据，包括文本和图像。
• 开发者友好：为 Python 和 JavaScript/TypeScript 提供简单的 API，使其易于集成到任何 AI 技术栈中。
• 可扩展架构：基于分布式、无服务器架构，分离了存储和计算。可从本地项目扩展到 TB 级的生产工作负载。
• 成本效益高：原生对象存储设计显著降低了存储和提供索引的成本，特别是对于访问模式不频繁的数据。
• 丰富的集成：与 LangChain、LlamaIndex、OpenAI、Google 和 Hugging Face 等流行的 AI 框架和库无缝集成。
• Chroma Cloud：一个完全托管的无服务器选项，无需管理基础设施，提供按使用量计费的模式。

Chroma 的使用案例

Chroma 是各种需要上下文感知响应和知识检索的 AI 应用的支柱。

• 检索增强生成 (RAG)：主要使用案例。通过为 LLM 提供事实性、实时或专有数据，为聊天机器人、问答系统和内容创作工具提供支持。
• 内部知识库搜索：允许员工使用自然语言提问，并从内部文档、维基和数据库中获得精确答案。
• 个性化 AI 助手：构建能够记住过去互动并有权访问用户个人数据（如笔记、电子邮件）的助手，以提供量身定制的帮助。
• 电子商务与产品发现：实现基于描述性查询而非仅仅是关键词的产品语义搜索，从而改善用户体验和转化率。
• 研究与分析：协助研究人员筛选海量学术论文、报告和数据，以快速找到相关信息。

Chroma 的优势特点

Chroma 的突出之处在于它是专为 AI 开发者打造的。其主要优势包括：

• 简洁性：它提供了“即插即用”的体验，抽象了向量索引和分布式系统的复杂性。
• 统一平台：避免了为向量搜索、关键词搜索和元数据存储而拼接不同系统的需要。
• 面向未来的可扩展性：开发者可以从小处着手，并随着业务增长而无需担心遇到瓶颈，这得益于从本地到云端的无缝过渡。
• 为 AI 工作负载优化：其架构专为多租户 AI 应用中常见的幂律访问模式和高基数集合而设计。
• 强大的社区：拥有活跃的 Discord 和 GitHub 开源社区支持，提供帮助并推动创新。

定价和计划

Chroma 提供灵活的定价模式，以满足从个人开发者到大型企业的不同需求。

• 开源版：自托管版本的 Chroma 完全免费，并采用 Apache 2.0 许可证。非常适合本地开发、研究和自主管理部署。
• Chroma Cloud - 入门版：每月 0 美元 + 使用费。此计划非常适合快速入门。它包含 5 美元的免费额度，之后您只需按使用量付费。支持最多 10 个数据库和 10 名团队成员。
• Chroma Cloud - 团队版：每月 250 美元 + 使用费。专为生产使用案例设计，此计划包含 100 美元的额度，支持最多 100 个数据库和 30 名团队成员，提供 Slack 支持，并符合 SOC II 标准。
• Chroma Cloud - 企业版：自定义定价。对于有大规模需求的组织，此计划提供无限的数据库和团队成员、专属支持、单租户集群、BYOC（自带云）选项和 SLA。

Chroma Cloud 的按使用量计费基于写入数据（2.50 美元/GiB）、存储数据（0.33 美元/GiB/月）和查询数据（0.0075 美元/TiB 查询 + 0.09 美元/GiB 返回）进行计算。