Not Diamond

Not Diamond 是一个专为开发者和企业设计的先进AI基础设施平台，旨在帮助他们在复杂的人工智能多模型未来中游刃有余。它作为一个“元模型”或智能路由层，运行在各种大语言模型（LLM）之上。Not Diamond 的核心使命是使团队能够利用多个AI模型的优势，而不是被锁定在单一模型中。通过这种方式，它显著提高了AI驱动应用的准确性，降低了运营成本和延迟。

该平台建立在这样一种信念之上：AI的未来不是一个单一的、庞大的模型，而是一个由数千个专业模型组成的网络化生态系统。Not Diamond 提供了有效管理这个生态系统的关键基础设施。它会分析传入的请求，并根据用户定义的评估数据和业务逻辑，预测性地确定哪个模型（例如GPT-4o、Claude 3.5 Sonnet等）最适合该任务。在质量方面，这一过程优于任何单个模型，同时还能优化速度和成本。

如何使用Not Diamond

Not Diamond 旨在无缝集成到现有的开发工作流程中。开发者可以通过Python SDK、TypeScript客户端或灵活的REST API来访问其功能，使其几乎与任何技术栈兼容。

典型的工作流程如下：

1. 集成： 将 Not Diamond SDK 或 API 集成到您的应用程序中。
2. 训练路由： 提供您自己的评估数据（输入示例和期望的输出或质量评分）。Not Diamond 使用这些数据来训练一个定制的路由器，该路由器能够理解您的特定领域、质量定义和业务需求。
3. 路由请求： 您将请求发送到 Not Diamond 端点，而不是直接调用LLM API。
4. 接收建议： Not Diamond 的路由器会分析输入，并在60毫秒内返回一个关于该特定请求应使用的最佳模型的建议。
5. 客户端执行： 您的应用程序随后会向推荐的LLM API发起直接的、客户端的调用。Not Diamond 不是代理；它只提供路由智能，确保您对数据和API调用保持完全控制。

Not Diamond的核心功能

• 智能模型路由： 利用您的评估数据，为每个输入预测性地选择最合适的LLM，平衡准确性、成本和延迟，从而超越任何单一模型。
• 自动提示词适配： 自动将为某个模型（如GPT-4o）编写的提示词进行转换和优化，使其在任何其他目标模型（如Claude 3.5 Sonnet）上都能有效执行，从而节省大量手动进行提示词工程的时间。
• 可控的权衡： 允许您设置质量阈值，使系统能够为次要任务使用更快、更便宜的模型，而不会影响输出质量。
• 极速推理： 模型选择过程非常快，通常耗时不到50-60毫秒，这意味着它增加的开销可以忽略不计，甚至可以通过路由到更快的模型来实现净速度提升。
• 企业级安全： Not Diamond 符合SOC-2标准，并提供强大的安全功能，包括客户端请求执行、零数据保留策略以及支持VPC部署，以实现最大规模的安全性。
• 开发者友好的SDK： 提供易于使用的Python和TypeScript客户端，以及一个全面的REST API，可集成到任何环境中。

Not Diamond的使用案例

Not Diamond 非常适合那些正在将AI业务扩展到多个应用和模型的团队。

• 客户支持自动化： 公司可以将简单、高频的客户查询路由到快速、廉价的模型，而将复杂、细致的支持请求发送到更强大、最先进的模型，从而优化成本和客户满意度。
• 内容生成平台： 营销平台可以使用 Not Diamond 为不同类型的内容选择最佳模型——为博客文章选择一个有创意的模型，为社交媒体更新选择一个简洁的模型，为技术文档选择一个专业的模型。
• 数据分析与摘要： 一个分析各种文档的应用程序，可以将总结法律合同的请求路由到具有强大推理能力的模型，同时将总结新闻文章的请求路由到更快、更通用的模型。

Not Diamond的优势特点

通过采用 Not Diamond 的多模型策略，开发团队可以获得显著的竞争优势：

• 降低成本： 通过避免对可以用更便宜方案处理的任务过度使用昂贵模型，从而大幅降低LLM运营成本。
• 提高准确性与质量： 通过始终为任务选择最合适的工具，利用不同模型的独特优势，实现更高的整体输出质量。
• 加速开发： 通过抽象化模型选择和提示词工程的复杂性，从根本上缩短开发周期。
• 减少延迟： 通过在适当时智能地路由到更快的模型，实现更快的响应时间。
• 面向未来： 无需重构现有应用程序逻辑，即可无缝集成新模型，轻松适应快速发展的AI格局。

定价和计划

Not Diamond 提供分层定价结构，以适应各种规模的团队：

• Discovery (免费)： 包括每月最多100,000次API路由请求，能够训练一个自定义路由器，并支持提示词适配。非常适合个人和刚起步的小团队。
• Possibility (每月100美元 + 使用费)： 包括Discovery计划中的所有内容，外加无上限的API路由请求（前10万次后每请求0.001美元）、无限的自定义路由器和增强的数据隐私功能。专为成长中的团队和应用设计。
• Necessity (定制价格)： 为大型企业量身定制的计划。它包括Possibility计划的所有功能，外加VPC部署、专门的集成和训练支持，以及高级访问和权限管理。