Not Diamond

Not Diamond 是一個專為開發者和企業設計的先進AI基礎設施平台，旨在幫助他們在複雜的人工智慧多模型未來中游刃有餘。它作為一個「元模型」或智慧路由層，運行在各種大語言模型（LLM）之上。Not Diamond 的核心使命是使團隊能夠利用多個AI模型的優勢，而不是被鎖定在單一模型中。透過這種方式，它顯著提高了AI驅動應用的準確性，降低了營運成本和延遲。

該平台建立在這樣一種信念之上：AI的未來不是一個單一的、龐大的模型，而是一個由數千個專業模型組成的網路化生態系統。Not Diamond 提供了有效管理這個生態系統的關鍵基礎設施。它會分析傳入的請求，並根據使用者定義的評估數據和業務邏輯，預測性地確定哪個模型（例如GPT-4o、Claude 3.5 Sonnet等）最適合該任務。在品質方面，這一過程優於任何單個模型，同時還能優化速度和成本。

如何使用Not Diamond

Not Diamond 旨在無縫整合到現有的開發工作流程中。開發者可以透過Python SDK、TypeScript用戶端或靈活的REST API來存取其功能，使其幾乎與任何技術堆疊相容。

典型的工作流程如下：

1. 整合： 將 Not Diamond SDK 或 API 整合到您的應用程式中。
2. 訓練路由： 提供您自己的評估數據（輸入範例和期望的輸出或品質評分）。Not Diamond 使用這些數據來訓練一個客製化的路由器，該路由器能夠理解您的特定領域、品質定義和業務需求。
3. 路由請求： 您將請求傳送到 Not Diamond 端點，而不是直接呼叫LLM API。
4. 接收建議： Not Diamond 的路由器會分析輸入，並在60毫秒內返回一個關於該特定請求應使用的最佳模型的建議。
5. 客戶端執行： 您的應用程式隨後會向推薦的LLM API發起直接的、客戶端的呼叫。Not Diamond 不是代理；它只提供路由智慧，確保您對數據和API呼叫保持完全控制。

Not Diamond的核心功能

• 智慧模型路由： 利用您的評估數據，為每個輸入預測性地選擇最合適的LLM，平衡準確性、成本和延遲，從而超越任何單一模型。
• 自動提示詞適配： 自動將為某個模型（如GPT-4o）編寫的提示詞進行轉換和優化，使其在任何其他目標模型（如Claude 3.5 Sonnet）上都能有效執行，從而節省大量手動進行提示詞工程的時間。
• 可控的權衡： 允許您設定品質閾值，使系統能夠為次要任務使用更快、更便宜的模型，而不會影響輸出品質。
• 極速推理： 模型選擇過程非常快，通常耗時不到50-60毫秒，這意味著它增加的開銷可以忽略不計，甚至可以透過路由到更快的模型來實現淨速度提升。
• 企業級安全： Not Diamond 符合SOC-2標準，並提供強大的安全功能，包括客戶端請求執行、零數據保留策略以及支援VPC部署，以實現最大規模的安全性。
• 開發者友善的SDK： 提供易於使用的Python和TypeScript用戶端，以及一個全面的REST API，可整合到任何環境中。

Not Diamond的使用案例

Not Diamond 非常適合那些正在將AI業務擴展到多個應用和模型的團隊。

• 客戶支援自動化： 公司可以將簡單、高頻的客戶查詢路由到快速、廉價的模型，而將複雜、細緻的支援請求傳送到更強大、最先進的模型，從而優化成本和客戶滿意度。
• 內容生成平台： 行銷平台可以使用 Not Diamond 為不同類型的內容選擇最佳模型——為部落格文章選擇一個有創意的模型，為社群媒體更新選擇一個簡潔的模型，為技術文件選擇一個專業的模型。
• 數據分析與摘要： 一個分析各種文件的應用程式，可以將總結法律合約的請求路由到具有強大推理能力的模型，同時將總結新聞文章的請求路由到更快、更通用的模型。

Not Diamond的優勢特點

透過採用 Not Diamond 的多模型策略，開發團隊可以獲得顯著的競爭優勢：

• 降低成本： 透過避免對可以用更便宜方案處理的任務過度使用昂貴模型，從而大幅降低LLM營運成本。
• 提高準確性與品質： 透過始終為任務選擇最合適的工具，利用不同模型的獨特優勢，實現更高的整體輸出品質。
• 加速開發： 透過抽象化模型選擇和提示詞工程的複雜性，從根本上縮短開發週期。
• 減少延遲： 透過在適當時智慧地路由到更快的模型，實現更快的響應時間。
• 面向未來： 無需重構現有應用程式邏輯，即可無縫整合新模型，輕鬆適應快速發展的AI格局。

定價和計劃

Not Diamond 提供分層定價結構，以適應各種規模的團隊：

• Discovery (免費)： 包括每月最多100,000次API路由請求，能夠訓練一個客製化路由器，並支援提示詞適配。非常適合個人和剛起步的小團隊。
• Possibility (每月100美元 + 使用費)： 包括Discovery計劃中的所有內容，外加無上限的API路由請求（前10萬次後每請求0.001美元）、無限的客製化路由器和增強的數據隱私功能。專為成長中的團隊和應用設計。
• Necessity (客製化價格)： 為大型企業量身定制的計劃。它包括Possibility計劃的所有功能，外加VPC部署、專門的整合和訓練支援，以及進階存取和權限管理。