Chroma

Chroma 是一款開創性的開源檢索資料庫，專為新時代的 AI 應用而設計。其核心使命是為開發者提供建構基於檢索增強生成（RAG）的複雜系統所需的基礎設施。透過為大型語言模型（LLM）補充相關的、私有的或最新的資訊，Chroma 有助於減少幻覺，並顯著提高生成文本的品質和相關性。它作為一個全面的解決方案，將嵌入管理、向量搜尋、文件儲存、全文搜尋和元資料過濾等功能整合在一個統一的系統中。

Chroma 的核心設計理念是簡潔與強大，使開發者能夠在本地機器上快速上手，並隨著需求的增長無縫擴展到完全託管的無伺服器雲端環境。其架構專為 AI 工作負載量身定制，這些工作負載通常涉及數百萬個具有不同存取模式的較小資料集。透過利用原生物件儲存設計，Chroma 分離了計算和儲存，使其與傳統的記憶體內搜尋系統相比，具有更高的可擴展性和成本效益。

如何使用 Chroma

Chroma 的入門過程對開發者來說非常簡單。通常包括以下步驟：

1. 安裝：首先，在您偏好的環境中安裝 Chroma 客戶端函式庫。Chroma 提供 Python（`pip install chromadb`）和 JavaScript/TypeScript（`npm install chromadb`）的官方客戶端。
2. 初始化客戶端：建立一個 Chroma 客戶端實例。您可以在記憶體中運行 Chroma，將其持久化到本地磁碟，或連接到正在運行的 Chroma 伺服器，包括 Chroma Cloud。
3. 建立集合：集合是您儲存嵌入、文件和元資料的地方。您可以使用一個簡單的命令建立集合，例如：`collection = client.create_collection(name="my_documents")`。
4. 新增資料：將您的資料新增到集合中。這包括文件（文本）、其對應的嵌入（向量）、元資料（如來源、日期）和唯一 ID。為了提高效率，您可以批次新增資料。
5. 查詢集合：透過查詢集合來檢索相關資訊。您可以使用查詢文本（Chroma 會為您嵌入）或提供自己的查詢向量來進行語意搜尋。您還可以應用強大的元資料過濾器和全文搜尋條件來優化結果。
6. 擴展到雲端：當您的應用程式準備好投入生產時，您可以將其部署到 Chroma Cloud，而無需更改應用程式程式碼。只需將您的客戶端指向帶有 API 金鑰的雲端端點，即可存取一個可擴展、無伺服器且完全託管的檢索系統。

Chroma 的核心功能

• AI 原生檢索：在一個資料庫中結合了向量搜尋、全文搜尋和元資料過濾。
• 開源：採用 Apache 2.0 授權，為開發者提供了自由和控制權。可以免費使用、審查和貢獻。
• 多模態：能夠處理和搜尋不同類型的資料，包括文本和圖像。
• 開發者友善：為 Python 和 JavaScript/TypeScript 提供簡單的 API，使其易於整合到任何 AI 技術堆疊中。
• 可擴展架構：基於分散式、無伺服器架構，分離了儲存和計算。可從本地專案擴展到 TB 級的生產工作負載。
• 成本效益高：原生物件儲存設計顯著降低了儲存和提供索引的成本，特別是對於存取模式不頻繁的資料。
• 豐富的整合：與 LangChain、LlamaIndex、OpenAI、Google 和 Hugging Face 等流行的 AI 框架和函式庫無縫整合。
• Chroma Cloud：一個完全託管的無伺服器選項，無需管理基礎設施，提供按使用量計費的模式。

Chroma 的使用案例

Chroma 是各種需要上下文感知回應和知識檢索的 AI 應用的支柱。

• 檢索增強生成 (RAG)：主要使用案例。透過為 LLM 提供事實性、即時或專有資料，為聊天機器人、問答系統和內容創作工具提供支援。
• 內部知識庫搜尋：允許員工使用自然語言提問，並從內部文件、維基和資料庫中獲得精確答案。
• 個人化 AI 助理：建構能夠記住過去互動並有權存取使用者個人資料（如筆記、電子郵件）的助理，以提供量身定制的幫助。
• 電子商務與產品發現：實現基於描述性查詢而非僅僅是關鍵字的產品語意搜尋，從而改善使用者體驗和轉換率。
• 研究與分析：協助研究人員篩選海量學術論文、報告和資料，以快速找到相關資訊。

Chroma 的優勢特點

Chroma 的突出之處在於它是專為 AI 開發者打造的。其主要優勢包括：

• 簡潔性：它提供了「即插即用」的體驗，抽象了向量索引和分散式系統的複雜性。
• 統一平台：避免了為向量搜尋、關鍵字搜尋和元資料儲存而拼接不同系統的需要。
• 面向未來的可擴展性：開發者可以從小處著手，並隨著業務增長而無需擔心遇到瓶頸，這得益於從本地到雲端的無縫過渡。
• 為 AI 工作負載優化：其架構專為多租戶 AI 應用中常見的冪律存取模式和高基數集合而設計。
• 強大的社群：擁有活躍的 Discord 和 GitHub 開源社群支援，提供協助並推動創新。

定價和計劃

Chroma 提供靈活的定價模式，以滿足從個人開發者到大型企業的不同需求。

• 開源版：自行託管版本的 Chroma 完全免費，並採用 Apache 2.0 授權。非常適合本地開發、研究和自主管理部署。
• Chroma Cloud - 入門版：每月 0 美元 + 使用費。此計劃非常適合快速入門。它包含 5 美元的免費額度，之後您只需按使用量付費。支援最多 10 個資料庫和 10 名團隊成員。
• Chroma Cloud - 團隊版：每月 250 美元 + 使用費。專為生產使用案例設計，此計劃包含 100 美元的額度，支援最多 100 個資料庫和 30 名團隊成員，提供 Slack 支援，並符合 SOC II 標準。
• Chroma Cloud - 企業版：自訂定價。對於有大規模需求的組織，此計劃提供無限的資料庫和團隊成員、專屬支援、單租戶叢集、BYOC（自備雲）選項和 SLA。

Chroma Cloud 的按使用量計費基於寫入資料（2.50 美元/GiB）、儲存資料（0.33 美元/GiB/月）和查詢資料（0.0075 美元/TiB 查詢 + 0.09 美元/GiB 返回）進行計算。