OpenLIT

Helicone 是一个为开发者提供的开源平台，集成了 AI 网关和 LLM 可观测性功能。它通过提供路由、监控、调试和分析 LLM 使用情况的工具，帮助构建可靠的 AI 应用程序。主要功能包括支持100多种模型的统一 API、智能缓存、速率限制、提示词管理和详细的性能分析。

Pydantic 是一个面向开发者的综合平台，提供强大的数据验证、AI 开发工具和全栈可观测性解决方案。它通过利用类型提示进行运行时数据验证，并提供从本地开发到生产环境的深度洞察，从而在 Python 和其他语言中实现更快、更稳健的应用程序开发。

Valyr (前身为 Helicone) 是一个开源的 LLM 可观测性平台和 AI 网关。它帮助开发者监控、调试和分析他们的 AI 应用，通过单一集成即可访问超过100种模型，管理成本，并通过缓存和速率限制等功能提高可靠性。

Langfuse 是一个开源的 LLM 工程平台，为调试、评估和改进 LLM 应用提供全面的工具。它提供追踪、提示词管理、评估框架和指标等功能，为使用大语言模型进行构建的团队简化整个开发生命周期。

HoneyHive 是一款面向使用 LLM 和 AI 智能体的开发人员的一体化 AI 可观测性与评估平台。它提供了一个统一的解决方案，用于构建、测试、调试和监控 AI 应用，涵盖从初步实验到企业级部署的全过程。该平台帮助团队系统地衡量 AI 质量，深入了解智能体交互，监控成本和延迟等性能指标，并协作管理提示词和数据集等关键资产，确保自信地交付可靠的 AI 产品。

AI SDK 是 Vercel 推出的免费、开源 TypeScript 工具包，专为构建 AI 驱动的应用而设计。它提供统一的 API，可无缝集成 OpenAI、Google 和 Anthropic 等多种大型语言模型（LLM）。它通过流式响应、生成式 UI 组件和工具调用等功能简化了开发，使开发者能够在 Next.js、React 和 Svelte 等框架上更快地构建和发布 AI 功能。

Higress.AI 是一款先进的开源 AI 网关，专为开发者和企业设计。它通过为100多种模型提供统一的API代理，简化了大型语言模型（LLM）和AI Agent的集成与管理。核心功能包括REST到MCP的转换、语义缓存、基于令牌的速率限制以及强大的插件系统，旨在构建安全、可扩展且可观测的AI应用基础设施。

APIPark 是一款开源 AI 网关和开发者门户，旨在帮助企业高效地管理、集成和部署 AI 服务。它能集中管理 LLM 调用、降低成本，并提供 API 共享、监控和安全工具。

Chatbot UI 是一个开源的聊天机器人界面，允许您连接超过80种AI模型，包括来自OpenAI、谷歌和Anthropic的模型。它提供了一个可自托管、可定制的替代方案，取代了专有的聊天平台，让用户完全控制他们的数据和对话。在一个统一的工作区中组织聊天、创建提示并无缝切换模型。

Falcon LLM是由技术创新研究所（TII）开发的一系列功能强大的开源和开放访问大型语言模型。Falcon模型以其顶尖的性能、可扩展性和多模态能力而闻名，涵盖了从高效的边缘部署版本到庞大的180B参数模型，旨在为全球开发者、研究人员和企业普及先进的人工智能技术。

Metorial 是一个专为 AI 代理设计的集成平台，使开发者能够快速构建、部署和监控强大的代理式 AI 应用。它通过其无服务器模型上下文协议 (MCP) 平台，提供与数百种工具、数据源和 API 的无缝连接，为可扩展的 AI 解决方案提供强大的 SDK、可观测性和企业级安全性。

Inferable 是一个开源、可自托管的开发者平台，用于构建可靠、持久且版本化的 AI 代理和工作流。它支持创建复杂的、带有人机协作能力、结构化输出和本地执行的长时间运行流程，以实现最大程度的安全性和控制力。

Atla AI 是一个专为 AI 代理（Agent）设计的可观测性和评估平台。它通过深入洞察代理行为，帮助开发者发现、理解和修复代理的故障。该平台能自动检测错误、识别重复出现的模式，并提供可行的改进建议，以持续提升代理的性能和任务完成率。

Hexabot 是一个开源平台，用于构建、定制和部署功能强大的 AI 聊天机器人和智能体。它提供了一个对开发者友好的环境，包括低代码可视化编辑器、丰富的扩展库和多渠道集成，并允许在本地部署以确保完全的数据隐私和控制。