Vellum AI

Vellum AI 是一个全面的企业级平台，旨在简化生成式AI应用程序开发的整个生命周期。它充当您AI产品的后端，使工程师、产品经理和领域专家团队能够有效协作，并自信地构建关键任务型AI代理。Vellum的一体化解决方案解决了AI开发中的关键挑战，从初步实验到生产监控，确保了可靠性、质量和速度。

该平台围绕着为AI开发带来严谨性和结构性的核心理念而构建。它通过提供量化测量、可复现的工作流和对生产系统的完全可见性工具，使团队能够超越AI的“黑盒”性质。Vellum深受领先的产品导向型公司和全球企业的信赖，已被证明能显著加速开发周期并提高AI驱动功能的质量。

如何使用Vellum AI

在Vellum上的开发过程遵循一个结构化的迭代生命周期：

1. 实验与编排： 首先使用Vellum的可视化工作流构建器或其强大的SDK（Python/TypeScript）来构建您的AI业务逻辑。您可以将各种节点链接在一起，包括提示、工具调用、从您的文档中进行检索增强生成（RAG），甚至是在Python或Docker容器中执行的自定义代码。这允许创建具有循环、递归和并行分支的复杂代理系统。
2. 评估： 设计好工作流后，您必须对其进行严格测试。Vellum提供了一个全面的评估套件。创建测试用例（或使用合成测试用例生成器）来衡量您的AI在质量、成本、延迟和可靠性等关键指标上的表现。并排比较不同的提示版本或工作流结构，以找到最佳配置。
3. 部署： 在达到您期望的性能阈值后，自信地部署您的AI工作流。Vellum的原生发布管理和环境系统（例如，开发、预发布、生产）将AI更新与您的主应用程序发布周期解耦。这意味着您可以即时推送AI的修复和改进，而无需进行完整的代码部署。
4. 监控： 部署后，保持对您AI在生产中性能的完全可见性。使用Vellum的追踪和图表视图来理解执行的每一步。监控仪表板帮助您跟踪关键指标，识别边缘案例，并为下一次迭代收集数据，确保您的AI长期保持可靠和有效。

Vellum AI的核心功能

• 工作流编排： 一个可视化的无代码/低代码构建器和一个功能齐全的SDK，用于定义复杂的AI逻辑。支持自定义Python/TypeScript节点、自定义Docker镜像和内置工具调用。
• 提示工程套件： 一个用于创建和管理提示的高级编辑器，包括对图像和函数调用的支持。功能包括版本历史、比较模式和提示优化器。
• 检索增强生成（RAG）： 端到端的RAG系统，包括托管的文档摄取、分块、嵌入和混合搜索（语义、关键字、基于规则）。
• 综合评估： 使用开箱即用的指标、自定义Python定义的指标和基于LLM的评估来衡量性能。轻松比较草稿版本和已部署版本。
• 部署与发布管理： 在不同环境（开发、预发布、生产）之间安全地推广AI工作流。将AI逻辑更新与应用程序发布解耦。
• 生产监控： 通过追踪和图表视图、在线评估仪表板以及与Datadog等工具的集成，实现完全的可观察性。
• 企业级安全： 符合SOC 2 Type II标准，支持HIPAA BAA，提供VPC部署、单点登录（SSO）和基于角色的访问控制（RBAC）。
• 团队协作： 一个统一的平台，工程师、产品经理和领域专家可以在此协作，更改在UI和SDK之间同步。

Vellum AI的使用案例

Vellum功能多样，为各种复杂的AI应用提供支持：

• 自动化文档分析： 如GravityStack所示，Vellum可以驱动代理AI审查复杂的法律文件，如信贷协议，从而显著缩短审查时间。
• 企业级虚拟助手： 像Redfin这样的公司使用Vellum来构建、评估并自信地在多个市场推出面向客户的虚拟助手。
• 医疗AI解决方案： DeepScribe和RelyHealth利用Vellum构建受临床医生信赖、符合HIPAA标准的AI工具，用于医疗记录和部署医疗保健解决方案等任务，加速了迭代和部署。
• 内部合规与自动化： Drata在Vellum上构建了其企业级内部AI解决方案，展示了其创建强大、安全的内部工具的能力。
• 大规模生产工作流： Revamp通过Vellum在生产中运行超过1500万次LLM执行，证明了其在高吞吐量用例中的可扩展性和可靠性。
• 个性化客户体验： Glowing使用Vellum在酒店业创造个性化的AI驱动体验。

Vellum AI的优势特点

Vellum为使用AI进行构建的团队提供了独特的竞争优势：

• 加速开发： 统一的平台和协作工具可将AI开发速度提高多达10倍。
• 提高可靠性： 严格的量化评估和强大的监控确保AI应用程序不仅功能正常，而且是关键任务级和值得信赖的。
• 无缝协作： 弥合了技术和非技术利益相关者之间的差距，实现了更快的迭代和更好的产品成果。
• 敏捷部署： 将AI更新与代码发布解耦，使团队能够即时响应问题或机遇，而无需等待下一个部署周期。
• 可扩展性与安全性： 从头开始为企业需求而构建，提供大规模、敏感应用所需的安全、合规和可扩展性。

定价和计划

Vellum提供量身定制的计划以适应不同的团队规模和需求：

• 初创公司计划（Startup Plan）： 专为希望构建强大AI应用程序的团队设计。该计划可免费开始使用，包括提示工程、工作流（UI和SDK）、文档检索、评估、部署和监控等核心功能，最多支持5个用户。
• 企业计划（Enterprise Plan）： 针对具有自定义需求和需要高级支持的大型公司。该计划包括初创公司计划的所有功能，外加基于角色的访问控制（RBAC）、多个工作区、VPC安装选项、外部监控集成、单点登录（SSO）、自定义合同（包括BAA/DPA）以及带SLA的专属企业支持。定价是定制的，需预约演示后获取。