PostgresML

PostgresML 是一款革命性的開源擴充套件，它將機器學習和人工智慧功能直接引入 PostgreSQL 資料庫。透過將模型和演算法嵌入資料層，它從根本上改變了 AI 應用的建構方式。其核心理念是，將模型遷移到資料端比不斷將龐大、動態的資料集遷移到模型端更有效率、更易於管理且更可靠。這種方法消除了複雜的資料管道，降低了延遲，並增強了安全性。

PostgresML 將您現有的資料庫轉變為一個功能齊全的 AI 平台。它支援廣泛的功能，從分類和回歸等傳統機器學習模型，到涉及大型語言模型 (LLM) 和向量搜尋的前沿深度學習應用。透過利用 GPU 的強大功能，它加速了計算和模型推理，使即時 AI 在高吞吐量系統中成為可能。

如何使用 PostgresML

PostgresML 的入門過程設計得非常簡單，提供了雲端和自託管兩種選擇。

1. PostgresML Cloud (推薦): 最簡單的方式是在 PostgresML Cloud 上註冊一個免費帳戶。這將在幾秒鐘內為您提供一個無伺服器、完全託管的 PostgreSQL 資料庫，並配備 GPU 和最先進的 LLM，無需任何設定開銷。
2. 自託管: 對於希望管理自己基礎設施的使用者，可以使用 Docker 自行託管 PostgresML。您可以拉取官方映像檔並用一個簡單的命令執行它，從而完全控制您的環境。命令通常是：docker run -it -v postgresml_data:/var/lib/postgresql -p 5433:5432 -p 8000:8000 ghcr.io/postgresml/postgresml:latest。
3. 執行查詢: 設定完成後，您可以使用標準 SQL 與 PostgresML 進行互動。您可以訓練模型 (例如 pgml.train())、進行預測 (例如 pgml.predict()) 以及執行複雜的 AI 管道。例如，生成文字嵌入就像在文字欄位上呼叫 pgml.embed() 函數一樣簡單。
4. 使用 SDK: 為了實現無縫的應用整合，PostgresML 提供了特定的客戶端函式庫，如 Korvus (適用於 Python、JavaScript、Rust 和 C) 和 postgresml-django，它們將整個 RAG 管道整合到單個資料庫查詢或 ORM 操作中。

PostgresML 的核心功能

• 資料庫內 ML/AI: 直接在 PostgreSQL 中執行機器學習和 AI 操作，無需單獨的系統和資料傳輸。
• GPU 加速: 利用 GPU 的能力顯著加快計算和模型推理速度，這對於即時應用至關重要。
• 大型語言模型 (LLM): 直接在您的資料庫中整合和使用來自 Hugging Face 等中心的最新 LLM。
• 端到端 RAG 管道: 為整個檢索增強生成 (RAG) 工作流程提供內建 SQL 函數：用於文字分割的 pgml.chunk、用於生成向量嵌入的 pgml.embed、用於結果重排序的 pgml.rank 以及用於文字生成的 pgml.transform。
• 向量搜尋: 與 pgvector 無縫整合，實現高效、可擴展的高維向量相似性搜尋。
• 多樣化的機器學習演算法: 包含超過 47 種內建的分類和回歸演算法 (如 XGBoost)，用於傳統的機器學習任務。
• 高效能與可擴展性: 與基於 HTTP 的模型服務相比，推理速度快 8-40 倍，並設計為支援每秒數百萬次交易和水平擴展。
• 全面的 NLP 任務: 支援廣泛的自然語言處理任務，包括文字分類、摘要、翻譯、問答和文字生成。

PostgresML 的使用案例

PostgresML 是開發人員和資料科學家建構新一代 AI 驅動應用的理想選擇。

• 語意搜尋與推薦引擎: 透過使用向量嵌入尋找語意相似的項目，建構能夠理解使用者意圖的強大搜尋系統。
• AI 聊天機器人與問答系統: 實施複雜的 RAG 管道，建構能夠根據儲存在資料庫中的私有知識庫回答問題的聊天機器人。
• 即時詐欺偵測: 直接在資料庫中訓練和部署分類模型，以低延遲即時分析交易資料並標記可疑活動。
• 資料分析與商業智慧: 使用資料庫內 NLP 總結客戶評論、分類支援工單或從非結構化文字資料中提取洞見，而無需將其移出 Postgres。
• 個人化內容生成: 利用 LLM 根據儲存在資料庫中的使用者資料生成個人化的行銷文案、產品描述或電子郵件回覆。

PostgresML 的優勢特點

PostgresML 的主要優勢在於其架構的簡潔性和效率。

• 降低延遲: 透過將模型和資料置於同一位置，消除了網路開銷，從而實現更快的查詢效能。
• 增強的安全性與隱私: 資料保留在資料庫的安全範圍內，簡化了合規性並降低了資料外洩的風險。
• 簡化的 MLOps 堆疊: 它將資料儲存、模型服務和向量資料庫整合到單個系統中，降低了基礎設施的複雜性和營運成本。
• 開發者體驗: 允許開發人員使用熟悉的 SQL 來建構和部署複雜的 AI 功能，降低了入門門檻並加速了開發週期。
• 可擴展性: 建立在 PostgreSQL 堅實且可擴展的基礎上，能夠處理企業級工作負載。

定價和計劃

PostgresML 採用免費增值模式，為不同需求提供靈活性。

• 開源自託管: PostgresML 擴充套件是開源的 (MIT 授權)，可以免費自託管，讓您完全控制自己的環境。
• PostgresML Cloud: 提供一個託管的、無伺服器的雲端平台。它包含一個慷慨的免費層，允許開發人員透過免費資料庫、GPU 存取和預配置的 LLM 快速入門。對於需要更多資源、專用 GPU 和企業級支援的應用，還提供付費計劃。