Mastra

Mastra 是一個功能強大的開源 TypeScript 智慧體框架，旨在賦能 JavaScript 和 TypeScript 開發者進入 AI 應用開發領域。Mastra 由流行 Web 框架 Gatsby 背後的經驗豐富的團隊開發，並得到了 YCombinator 的支持，為以 Python 為中心的 AI 生態系統提供了一個強而有力的替代方案。它從一開始就為生產環境而設計，提供了建構、部署和管理智慧 AI 智慧體及複雜的確定性工作流程所需的所有基本要素。

如何使用 Mastra

使用 Mastra 遵循一個以開發者為中心的工作流程，該流程能無縫整合到 TypeScript/JavaScript 環境中：

1. 安裝：首先，使用 npm 或 yarn 等套件管理器將 Mastra 套件安裝到您的專案中：npm install mastra。
2. 創建智慧體：使用簡單且宣告式的 API 定義一個 AI 智慧體。您可以透過提供其名稱、指令（核心提示）、所需的 LLM 模型（例如 'gpt-4o-mini'）、記憶體配置以及它可以執行的任何工作流程來實例化一個智慧體。
3. 定義工作流程：對於複雜的多步驟任務，您可以設計基於圖的工作流程。Mastra 的構建器語法（.step()、.then()、.branch()）允許您鏈接 LLM 呼叫、創建條件邏輯並並行運行操作。這些工作流程是持久的，意味著它們的狀態可以被保存和恢復。
4. 實現 RAG：為了讓您的智慧體基於特定知識，可以使用 Mastra 的 RAG 功能。這包括處理您的文件（HTML、Markdown 等）、將其分塊、創建向量嵌入並將其儲存在像 Pinecone 或 pgvector 這樣的向量資料庫中。然後，智慧體可以查詢此知識庫以提供準確、具有上下文感知的回應。
5. 本地開發與除錯：Mastra 包含一個本地開發遊樂場，允許您即時與智慧體聊天並檢查它們。您可以監控它們的記憶體、工具呼叫和內部狀態。該框架的可觀測性功能，包括 OpenTelemetry 追蹤，有助於除錯和性能監控。
6. 部署：一旦您的應用程式準備就緒，Mastra 提供幫助程式將其打包並部署到各種平台，包括 Vercel、Netlify 和 Cloudflare Workers 等無伺服器環境，或 AWS 和 Azure 等傳統雲端供應商。

Mastra 的核心功能

• 智慧體框架：建構具有持久化記憶體（支援語義回憶和新近度）、工具呼叫能力（與外部系統互動）和動態上下文管理的智慧 AI 智慧體。
• 基於圖的工作流程：創建具有清晰控制流（鏈接、分支、並行執行）、暫停/恢復功能以及為長時間運行任務提供即時事件流的確定性、有狀態的工作流程。
• 進階 RAG（檢索增強生成）：一個完整的工具包，用於處理文件、透過統一 API（支援 OpenAI、Cohere 等）創建嵌入，並查詢向量儲存，以將 LLM 的回應建立在事實數據之上。
• 統一模型路由：利用 Vercel AI SDK 提供單一、一致的介面，與包括 OpenAI、Anthropic 和 Google Gemini 在內的各種 LLM 供應商進行互動，讓您只需一行程式碼即可切換模型。
• 全面的可觀測性（Ops）：內建 OpenTelemetry 追蹤、詳細日誌記錄、性能指標追蹤（成本、延遲、準確性）以及一個強大的評估系統（模型評分和基於規則），用於測試和評分智慧體輸出。
• 開發者優先的體驗：配備本地開發遊樂場、強大的 CLI、預建構的生產級模板，旨在提供無縫的開發者體驗和輕鬆的雲端部署。
• 巢狀串流傳輸：為複雜的、巢狀的智慧體和工作流程執行的每一步提供即時可見性，提供詳細的成本追蹤和統一的訊息傳遞介面。

Mastra 的使用案例

• AI 驅動的數據分析：開發對話式數據分析智慧體，讓使用者能夠使用自然語言查詢資料庫並產生洞察。
• 多智慧體 Copilot：建構複雜的 AI 協駕，可以代表使用者自動執行複雜的工作流程並導航軟體介面。
• 創意 AI 系統：創建多智慧體系統，用於協同音樂生成、劇本創作或複雜思想的腦力激盪等任務。
• 個人化 AI 助理：建構像 AI 旅行規劃師這樣的應用，透過協調多個專業智慧體來研究目的地、創建行程和管理預訂。
• 智慧客戶支援：部署可透過 RAG 存取內部知識庫的智慧體，以提供快速、準確且具有上下文感知的客戶支援。

Mastra 的優勢特點

• TypeScript 原生：專為 JavaScript/TypeScript 生態系統建構，使開發人員無需離開他們偏好的語言和工具鏈即可建構 AI 應用。
• 模組化與可組合性：該架構允許靈活組合智慧體、工作流程和 RAG 組件，以建構高度複雜和客製化的 AI 系統。
• 生產就緒：從一開始就考慮了部署、可觀測性和評估，使其適用於建構穩健、可擴展的應用程式，而不僅僅是原型。
• 卓越的開發者體驗：因其簡潔的 API、直觀的 CLI、全面的文件和加速開發的預建構模板而受到社群的廣泛讚譽。
• 開源與社群驅動：作為一個由強大團隊和頂級投資者支持的開源專案，它受益於社群的貢獻，並在其發展過程中保持透明。

定價和計劃

Mastra 採用免費增值模式：

• 開源框架：核心的 Mastra 框架是完全免費和開源的，可在 GitHub 上取得。開發者可以無任何成本地使用它來建構和自託管他們的 AI 應用。
• Mastra Cloud：對於尋求託管解決方案的團隊和企業，Mastra 提供了一個雲端平台。該服務可能包括託管儀表板、進階可觀測性、託管基礎設施、團隊協作工具和企業級支援等功能。Mastra Cloud 的定價預計將是分層的，可能為個人開發者提供免費方案，並為需要更多資源和支援的團隊提供付費方案。請參閱 Mastra 官方網站以獲取最新和詳細的定價資訊。