Backmesh

Backmesh 是一款功能強大、開源的後端即服務（BaaS），專為新一代 AI 驅動的應用程式而設計。它為開發者解決了一個關鍵的安全和架構挑戰：如何在不暴露敏感私有 API 金鑰的情況下，從客戶端應用程式（網頁或行動端）安全地呼叫大型語言模型（LLM）API。Backmesh 充當一個智慧且安全的 LLM API 閘道，位於您的應用程式和 LLM 供應商之間，確保所有通訊都經過身分驗證、授權和監控。

Backmesh 的核心理念是在不犧牲安全性的前提下簡化開發。透過整合 Backmesh，開發者可以避免為 API 金鑰管理和請求代理而建構和維護專用後端伺服器的耗時過程。這使得迭代更快，功能發布更迅速，並能專注於在 AI 應用程式本身中創造出色的使用者體驗。

如何使用 Backmesh

將 Backmesh 整合到您的應用程式中設計得非常直接，只需最少的程式碼變更。該過程主要包括兩個關鍵步驟：

1. 重新導向 API 呼叫： 您需要將 LLM SDK 設定為指向您唯一的 Backmesh 閘道 URL，而不是直接向 LLM 供應商的 URL（例如 `api.openai.com`）發送請求。
2. 用 JWT 取代 API 金鑰： 您需要將客戶端程式碼中的靜態、私有 LLM API 金鑰替換為使用者登入後從您應用的身分驗證供應商（如 Supabase 或 Firebase）獲得的動態 JSON Web Token（JWT）。這個 JWT 向 Backmesh 證明了使用者的身分。

例如，在一個使用 OpenAI SDK 和 Supabase 進行身分驗證的 JavaScript 應用程式中，您可以透過將 Backmesh URL 和使用者的會話存取權杖作為 `apiKey` 傳遞來初始化客戶端。然後，Backmesh 接收請求，驗證 JWT，檢查任何設定的規則（如速率限制），並使用其自己儲存的私鑰安全地將請求轉發到 LLM API。整個過程對終端使用者和 LLM 供應商都是透明的。

Backmesh 的核心功能

• LLM API 閘道： 核心功能，可安全地將請求從您的應用程式代理到 LLM API，完全對客戶端隱藏您的私鑰。
• JWT 身分驗證： 與 Supabase 和 Firebase 等流行的身分驗證供應商整合。它使用使用者的 JWT 驗證每個請求，確保只有經過身分驗證的使用者才能存取 LLM。
• 使用者級速率限制： 透過為每個使用者設定可配置的速率限制（例如，每個使用者每分鐘不超過 10 次請求），有效防止 API 濫用並管理成本。
• 資源存取控制： 保護敏感的 API 資源。例如，使用 OpenAI 的 API 時，它能確保只有建立特定檔案或執行緒的使用者才能繼續存取它，從而增強資料隱私。
• 無 SDK 的 LLM 分析： 自動檢測所有代理的 LLM API 呼叫，以提供有價值的見解。開發者可以存取儀表板來監控使用模式、追蹤成本、分析錯誤率，並比較不同使用者的模型效能，而無需向其應用程式添加任何分析套件。
• 開源與自託管： Backmesh 完全開源，為開發者提供了完全的透明度和控制權。它可以自託管在個人的 Cloudflare 帳戶上，利用 Cloudflare 慷慨的免費方案。
• 多供應商支援： 原生支援包括 OpenAI、Google Gemini、Anthropic 和 Cloudflare Workers AI 在內的主要 LLM API，為您選擇最適合您需求的模型提供了靈活性。

Backmesh 的使用案例

Backmesh 適用於廣泛的開發場景：

• 快速原型設計： 在網頁和行動應用程式中快速建構和測試 AI 驅動的功能，無需完整的後端基礎設施開銷。
• 無伺服器 AI 應用程式： 建立功能齊全的無伺服器 AI 應用程式，例如使用 Flutter 或 React 等框架建構的類 ChatGPT 客戶端，可直接且安全地與 LLM 通訊。
• 安全的企業應用程式： 使內部或面向客戶的應用程式能夠使用 LLM，同時實施嚴格的基於使用者的存取控制和監控。
• 獨立開發者與新創公司： 更快、更安全地推出 AI 產品，讓小團隊能夠透過專注於創新而非後端維護來進行競爭。

Backmesh 的優勢特點

使用 Backmesh 提供了幾個關鍵優勢：

• 顯著提高安全性： 消除了在客戶端程式碼中暴露私有 LLM API 金鑰的風險，這是一個主要的安全漏洞。
• 簡化架構： 透過消除對 API 代理的專用後端的需求，降低了應用程式基礎設施的複雜性和成本。
• 加速開發： 加快了開發生命週期，使新的 AI 功能和應用程式能夠更快地推向市場。
• 成本與濫用控制： 精細的每使用者速率限制可防止意外的成本飆升，並保護您的服務免受惡意使用者的濫用。
• 可操作的見解： 內建的分析儀表板提供了了解使用者行為、優化成本和改進整體應用程式所需的資料。
• 靈活性與無廠商鎖定： 開源特性和自託管選項提供了終極的靈活性，並確保您永遠不會被鎖定在單一的 SaaS 供應商中。

定價和計劃

Backmesh 提供靈活的定價模式以適應不同需求，其付費方案包含 15 天的免費試用。

• 開源（自託管）： 作為一個開源專案，Backmesh 始終可以免費自託管在您自己的 Cloudflare 帳戶上。對於希望獲得最大控制權的開發者來說，這是一個很好的選擇。
• 入門版計畫： 定價為每月 10 美元，此計畫包括 500,000 次請求和 50,000 月活躍使用者（MAU）。非常適合小型專案和新創公司。
• 專業版計畫： 專為流量不斷增長的應用程式而設計。定價是客製化的；您需要聯繫銷售團隊（「與我們聊天」）。它包括更高的 2,000,000 次請求和 100,000 MAU 的基準，並可選擇為額外使用付費。
• 企業版計畫： 一個完全客製化的計畫，適用於具有特定支援、安全和無限使用需求的大型應用程式。請聯繫銷售獲取報價。