APIPark

Valyr (前身为 Helicone) 是一个开源的 LLM 可观测性平台和 AI 网关。它帮助开发者监控、调试和分析他们的 AI 应用，通过单一集成即可访问超过100种模型，管理成本，并通过缓存和速率限制等功能提高可靠性。

Backmesh 是一款专为 AI 应用设计的开源后端即服务（BaaS）。它充当安全的 LLM API 网关，允许开发者直接从网页或移动应用中调用 OpenAI、Gemini 等 LLM API，而无需暴露私钥。它提供 JWT 身份验证、用户级速率限制和内置分析等功能，以有效管理和监控 API 使用情况。

Helicone 是一个为开发者提供的开源平台，集成了 AI 网关和 LLM 可观测性功能。它通过提供路由、监控、调试和分析 LLM 使用情况的工具，帮助构建可靠的 AI 应用程序。主要功能包括支持100多种模型的统一 API、智能缓存、速率限制、提示词管理和详细的性能分析。

Higress.AI 是一款先进的开源 AI 网关，专为开发者和企业设计。它通过为100多种模型提供统一的API代理，简化了大型语言模型（LLM）和AI Agent的集成与管理。核心功能包括REST到MCP的转换、语义缓存、基于令牌的速率限制以及强大的插件系统，旨在构建安全、可扩展且可观测的AI应用基础设施。

Latitude 是一个开源开发平台，专为构建、评估和部署由大型语言模型（LLM）驱动的应用程序而设计，尤其侧重于创建自主 AI 代理。它为开发者提供了一套全面的工具，用于实验、优化和扩展他们的 AI 解决方案。

Forefront 是一个面向开发者的开源 AI 构建平台。它简化了在您的私有数据上运行、微调和部署大型语言模型（LLM）的过程，为闭源平台提供了一个可扩展、安全且经济高效的替代方案。让您真正拥有自己的数据、模型和 AI。

boundaryml (BAML) 是一个专为开发人员设计的编程语言和工具包，用于从大型语言模型 (LLM) 中可靠地提取结构化数据。它将复杂的提示工程转变为简化的、类似代码的流程，确保在各种 LLM 和编程语言（如 Python 和 TypeScript）中获得类型安全、错误修正的输出。它旨在提高可靠性、降低成本并加速 AI 应用的开发周期。

Sylph AI 是一个旨在最大化LLM应用潜力的开发平台。它提供领先的开源库AdalFlow，用于构建和自动优化LLM任务流程，以及一个AI队友，在从构思到生产的整个开发工作流中提供专家指导。

OpenLIT 是一个专为生成式 AI 和 LLM 应用设计的开源、OpenTelemetry 原生可观测性平台。它通过请求追踪、成本跟踪、异常监控和性能分析等工具简化了开发流程。OpenLIT 拥有集中的提示词仓库、用于存储密钥的安全保管库以及用于比较 LLM 的实验场，为高效监控和扩展 AI 应用提供了全面的解决方案。

ModelFusion 是一款面向开发者和研究人员的一体化 LLM 工具包。它提供一套免费工具，包括成本计算器、提示词库和模型比较器，支持 GPT-4、Claude 和 Gemini 等 30 多种 AI 模型。它还提供统一的 API 和本地模型运行指南，以简化 AI 开发并优化成本。

Prompt Mixer 是一款强大的开源提示工程工具，为团队提供了一个协作工作区。它支持用户通过管理提示链、比较不同的大语言模型（LLM）和利用高级评估指标，来创建、测试、评估和部署由 AI 驱动的解决方案。

6b 是 EleutherAI 提供的一个免费网页界面，用于测试 GPT-J-6B 大语言模型。用户可以输入提示词，调整温度和 top-p 等参数，并即时生成文本。它是一个便捷的工具，供开发者、研究人员和写作者在无需任何设置的情况下，体验强大的60亿参数开源AI，探索其在创意写作、编码和内容创作方面的能力。

Portkey AI 是一款专为开发者设计的高级 AI 网关和 LLM Ops 平台。它通过为各种大型语言模型（LLM）提供统一的 API、实时可观测性、语义缓存和智能负载均衡，简化了可靠、可扩展且经济高效的 AI 应用的开发。

Prompto 是一款免费、开源、基于浏览器的界面，用于与各种大型语言模型（LLM）进行交互。它利用 LangChain.js 直接连接到 OpenAI、Anthropic 等提供商以及通过 Ollama 连接的本地模型，提供模型比较竞技场、提示词模板和多 AI 对话等高级功能，同时通过本地存储数据来优先保护用户隐私。