Helicone

Portkey AI 是一款專為開發者設計的進階 AI 閘道和 LLM Ops 平台。它透過為各種大型語言模型（LLM）提供統一的 API、即時可觀測性、語義快取和智慧負載平衡，簡化了可靠、可擴展且具成本效益的 AI 應用的開發。

Metorial 是一個專為 AI 代理設計的整合平台，使開發者能夠快速建構、部署和監控強大的代理式 AI 應用程式。它透過其無伺服器模型上下文協議 (MCP) 平台，提供與數百種工具、資料來源和 API 的無縫連接，為可擴展的 AI 解決方案提供強大的 SDK、可觀測性和企業級安全性。

UsageGuard 是一個面向企業的一體化AI開發與可觀測性平台。它提供統一的API以存取所有主流大型語言模型（LLM），實現無縫模型切換。該平台專注於企業級安全、全面的成本控制和即時監控，幫助企業安全高效地建構、擴展和管理AI應用。

OpenLIT 是一個專為生成式 AI 和 LLM 應用程式設計的開源、OpenTelemetry 原生可觀測性平台。它透過請求追蹤、成本追蹤、異常監控和效能分析等工具簡化了開發流程。OpenLIT 擁有集中的提示詞儲存庫、用於儲存密鑰的安全保管庫以及用於比較 LLM 的實驗場，為高效監控和擴展 AI 應用程式提供了全面的解決方案。

Agenta 是一個開源的 LLMOps 平台，專為團隊建構可靠的 LLM 應用程式而設計。它將提示管理、系統性評估和可觀測性整合到單一的協作工作流程中，幫助開發人員、產品經理和領域專家從分散的流程轉向結構化的開發模式。

Draftnrun是一個開源AI代理平台，賦能開發者、產品團隊和機構無需編寫程式碼即可設計、部署和監控生產級AI工作流。它提供可視化構建器、全面的可觀察性和靈活的部署選項，加速AI集成並確保完全控制。

Truefoundry 是一個企業級平台，用於部署、管理和擴展代理式 AI 應用程式。它提供統一的 AI 閘道來編排複雜的 AI 工作流程、管理模型，並確保安全性、治理和可觀測性。該平台專為開發人員和 MLOps 團隊設計，支援本地、雲端和混合部署，可優化 GPU 利用率並加速產品上市時間。

一個開源的、可自託管的平台，用於在您自己的基礎設施上發現、部署和管理專用AI代理，確保完全的資料隱私和控制。

Vectra 是一個開源的生產級 SDK，支援 Node.js 和 Python，旨在建構、管理和查詢高級檢索增強生成（RAG）管道。它為開發上下文感知型 AI 應用程式提供了一套全面的工具，針對低延遲、高精度和可擴展性進行了最佳化。

Pydantic 是一個為開發者設計的綜合平台，提供強大的資料驗證、AI 開發工具和全端可觀測性解決方案。它透過利用型別提示進行執行時資料驗證，並提供從本地開發到生產環境的深度洞察，從而在 Python 和其他語言中實現更快、更穩健的應用程式開發。

Valyr (前身為 Helicone) 是一個開源的 LLM 可觀測性平台和 AI 閘道。它幫助開發者監控、偵錯和分析他們的 AI 應用，透過單一整合即可存取超過100種模型，管理成本，並透過快取和速率限制等功能提高可靠性。

Symphony 是一個通用的 LLM 介面，提供與 OpenAI 相容的 API，用於部署、管理和擴展 AI 應用程式。它具有企業級可靠性、最高 20% 的成本降低，並支援 GPT-5 和 Llama 4 等 100 多個主流 AI 模型，是尋求高效、強大 AI 基礎設施的開發人員和企業的理想選擇。

Langfuse 是一個開源的 LLM 工程平台，為偵錯、評估和改進 LLM 應用提供全面的工具。它提供追蹤、提示詞管理、評估框架和指標等功能，為使用大型語言模型進行建構的團隊簡化整個開發生命週期。

OpenRouter 是一個為開發者設計的統一 API 閘道，提供對 OpenAI、Google 和 Anthropic 等 60 多家供應商的 400 多種 AI 模型的存取。它透過單一 API 簡化了開發，提供有競爭力的即用即付定價、確保高可用性的自動容錯移轉以及優化成本和效能的智慧模型路由。