OpenLIT

Helicone 是一個為開發者提供的開源平台，整合了 AI 閘道和 LLM 可觀測性功能。它透過提供路由、監控、偵錯和分析 LLM 使用情況的工具，幫助建構可靠的 AI 應用程式。主要功能包括支援100多種模型的統一 API、智慧快取、速率限制、提示詞管理和詳細的效能分析。

Pydantic 是一個為開發者設計的綜合平台，提供強大的資料驗證、AI 開發工具和全端可觀測性解決方案。它透過利用型別提示進行執行時資料驗證，並提供從本地開發到生產環境的深度洞察，從而在 Python 和其他語言中實現更快、更穩健的應用程式開發。

Valyr (前身為 Helicone) 是一個開源的 LLM 可觀測性平台和 AI 閘道。它幫助開發者監控、偵錯和分析他們的 AI 應用，透過單一整合即可存取超過100種模型，管理成本，並透過快取和速率限制等功能提高可靠性。

Langfuse 是一個開源的 LLM 工程平台，為偵錯、評估和改進 LLM 應用提供全面的工具。它提供追蹤、提示詞管理、評估框架和指標等功能，為使用大型語言模型進行建構的團隊簡化整個開發生命週期。

HoneyHive 是一款面向使用 LLM 和 AI 智慧體的開發人員的一體化 AI 可觀測性與評估平台。它提供了一個統一的解決方案，用於建構、測試、偵錯和監控 AI 應用，涵蓋從初步實驗到企業級部署的全過程。該平台幫助團隊系統地衡量 AI 品質，深入了解智慧體互動，監控成本和延遲等效能指標，並協作管理提示詞和資料集等關鍵資產，確保自信地交付可靠的 AI 產品。

AI SDK 是 Vercel 推出的免費、開源 TypeScript 工具包，專為建構 AI 驅動的應用程式而設計。它提供統一的 API，可無縫整合 OpenAI、Google 和 Anthropic 等多種大型語言模型（LLM）。它透過串流式回應、生成式 UI 元件和工具呼叫等功能簡化了開發，使開發者能夠在 Next.js、React 和 Svelte 等框架上更快地建構和發布 AI 功能。

Higress.AI 是一款先進的開源 AI 閘道，專為開發者和企業設計。它透過為100多種模型提供統一的API代理，簡化了大型語言模型（LLM）和AI Agent的整合與管理。核心功能包括REST到MCP的轉換、語義快取、基於令牌的速率限制以及強大的外掛程式系統，旨在建構安全、可擴展且可觀測的AI應用基礎設施。

APIPark 是一款開源 AI 閘道和開發者入口網站，旨在協助企業高效地管理、整合和部署 AI 服務。它能集中管理 LLM 調用、降低成本，並提供 API 共享、監控和安全工具。

Chatbot UI 是一個開源的聊天機器人介面，允許您連接超過80種AI模型，包括來自OpenAI、谷歌和Anthropic的模型。它提供了一個可自託管、可客製化的替代方案，取代了專有的聊天平台，讓用戶完全控制他們的資料和對話。在一個統一的工作區中組織聊天、創建提示並無縫切換模型。

Falcon LLM是由技術創新研究所（TII）開發的一系列功能強大的開源和開放存取大型語言模型。Falcon模型以其頂尖的性能、可擴展性和多模態能力而聞名，涵蓋了從高效的邊緣部署版本到龐大的180B參數模型，旨在為全球開發者、研究人員和企業普及先進的人工智慧技術。

Metorial 是一個專為 AI 代理設計的整合平台，使開發者能夠快速建構、部署和監控強大的代理式 AI 應用程式。它透過其無伺服器模型上下文協議 (MCP) 平台，提供與數百種工具、資料來源和 API 的無縫連接，為可擴展的 AI 解決方案提供強大的 SDK、可觀測性和企業級安全性。

Inferable 是一個開源、可自託管的開發者平台，用於建構可靠、持久且版本化的 AI 代理和工作流程。它支援創建複雜的、帶有人機協作能力、結構化輸出和本地執行的長時間運行流程，以實現最大程度的安全性和控制力。

Atla AI 是一個專為 AI 代理（Agent）設計的可觀測性與評估平台。它透過深入洞察代理行為，幫助開發者發現、理解和修復代理的故障。該平台能自動偵測錯誤、識別重複出現的模式，並提供可行的改進建議，以持續提升代理的性能和任務完成率。

Hexabot 是一個開源平台，用於建構、客製化和部署功能強大的 AI 聊天機器人和智慧體。它提供了一個對開發者友善的環境，包括低程式碼視覺化編輯器、豐富的擴充套件庫和多通路整合，並允許在本地部署以確保完全的資料隱私和控制。