Vellum AI

Vellum AI 是一個全面的企業級平台，旨在簡化生成式AI應用程式開發的整個生命週期。它充當您AI產品的後端，使工程師、產品經理和領域專家團隊能夠有效協作，並自信地建構關鍵任務型AI代理。Vellum的一體化解決方案解決了AI開發中的關鍵挑戰，從初步實驗到生產監控，確保了可靠性、品質和速度。

該平台圍繞著為AI開發帶來嚴謹性和結構性的核心理念而建構。它透過提供量化測量、可重現的工作流程和對生產系統的完全可見性工具，使團隊能夠超越AI的「黑箱」性質。Vellum深受領先的產品導向型公司和全球企業的信賴，已被證明能顯著加速開發週期並提高AI驅動功能的品質。

如何使用Vellum AI

在Vellum上的開發過程遵循一個結構化的迭代生命週期：

1. 實驗與編排： 首先使用Vellum的視覺化工作流程建構器或其強大的SDK（Python/TypeScript）來建構您的AI業務邏輯。您可以將各種節點連結在一起，包括提示、工具呼叫、從您的文件中進行檢索增強生成（RAG），甚至是在Python或Docker容器中執行的自訂程式碼。這允許創建具有循環、遞歸和並行分支的複雜代理系統。
2. 評估： 設計好工作流程後，您必須對其進行嚴格測試。Vellum提供了一個全面的評估套件。創建測試案例（或使用合成測試案例生成器）來衡量您的AI在品質、成本、延遲和可靠性等關鍵指標上的表現。並排比較不同的提示版本或工作流程結構，以找到最佳配置。
3. 部署： 在達到您期望的性能閾值後，自信地部署您的AI工作流程。Vellum的原生發布管理和環境系統（例如，開發、預發布、生產）將AI更新與您的主應用程式發布週期解耦。這意味著您可以即時推送AI的修復和改進，而無需進行完整的程式碼部署。
4. 監控： 部署後，保持對您AI在生產中性能的完全可見性。使用Vellum的追蹤和圖表視圖來理解執行的每一步。監控儀表板幫助您跟踪關鍵指標，識別邊緣案例，並為下一次迭代收集數據，確保您的AI長期保持可靠和有效。

Vellum AI的核心功能

• 工作流程編排： 一個視覺化的無程式碼/低程式碼建構器和一個功能齊全的SDK，用於定義複雜的AI邏輯。支援自訂Python/TypeScript節點、自訂Docker映像檔和內建工具呼叫。
• 提示工程套件： 一個用於創建和管理提示的高級編輯器，包括對圖像和函數呼叫的支援。功能包括版本歷史、比較模式和提示優化器。
• 檢索增強生成（RAG）： 端對端的RAG系統，包括託管的文件擷取、分塊、嵌入和混合搜尋（語義、關鍵字、基於規則）。
• 綜合評估： 使用開箱即用的指標、自訂Python定義的指標和基於LLM的評估來衡量性能。輕鬆比較草稿版本和已部署版本。
• 部署與發布管理： 在不同環境（開發、預發布、生產）之間安全地推廣AI工作流程。將AI邏輯更新與應用程式發布解耦。
• 生產監控： 透過追蹤和圖表視圖、線上評估儀表板以及與Datadog等工具的整合，實現完全的可觀察性。
• 企業級安全： 符合SOC 2 Type II標準，支援HIPAA BAA，提供VPC部署、單點登錄（SSO）和基於角色的存取控制（RBAC）。
• 團隊協作： 一個統一的平台，工程師、產品經理和領域專家可以在此協作，變更在UI和SDK之間同步。

Vellum AI的使用案例

Vellum功能多樣，為各種複雜的AI應用提供支援：

• 自動化文件分析： 如GravityStack所示，Vellum可以驅動代理AI審查複雜的法律文件，如信貸協議，從而顯著縮短審查時間。
• 企業級虛擬助理： 像Redfin這樣的公司使用Vellum來建構、評估並自信地在多個市場推出面向客戶的虛擬助理。
• 醫療AI解決方案： DeepScribe和RelyHealth利用Vellum建構受臨床醫生信賴、符合HIPAA標準的AI工具，用於醫療記錄和部署醫療保健解決方案等任務，加速了迭代和部署。
• 內部合規與自動化： Drata在Vellum上建構了其企業級內部AI解決方案，展示了其創建強大、安全的內部工具的能力。
• 大規模生產工作流程： Revamp透過Vellum在生產中運行超過1500萬次LLM執行，證明了其在高吞吐量用例中的可擴展性和可靠性。
• 個人化客戶體驗： Glowing使用Vellum在飯店業創造個人化的AI驅動體驗。

Vellum AI的優勢特點

Vellum為使用AI進行建構的團隊提供了獨特的競爭優勢：

• 加速開發： 統一的平台和協作工具可將AI開發速度提高多達10倍。
• 提高可靠性： 嚴格的量化評估和強大的監控確保AI應用程式不僅功能正常，而且是關鍵任務級和值得信賴的。
• 無縫協作： 彌合了技術和非技術利益相關者之間的差距，實現了更快的迭代和更好的產品成果。
• 敏捷部署： 將AI更新與程式碼發布解耦，使團隊能夠即時回應問題或機遇，而無需等待下一個部署週期。
• 可擴展性與安全性： 從頭開始為企業需求而建構，提供大規模、敏感應用所需的安全、合規和可擴展性。

定價和計劃

Vellum提供量身定制的計劃以適應不同的團隊規模和需求：

• 新創公司計劃（Startup Plan）： 專為希望建構強大AI應用程式的團隊設計。該計劃可免費開始使用，包括提示工程、工作流程（UI和SDK）、文件檢索、評估、部署和監控等核心功能，最多支援5個使用者。
• 企業計劃（Enterprise Plan）： 針對具有自訂需求和需要高級支援的大型公司。該計劃包括新創公司計劃的所有功能，外加基於角色的存取控制（RBAC）、多個工作區、VPC安裝選項、外部監控整合、單點登錄（SSO）、自訂合約（包括BAA/DPA）以及帶SLA的專屬企業支援。定價是自訂的，需預約演示後獲取。