Substrate

Substrate 是一个为创建智能、代理式 AI 软件而设计的先进基础设施平台。它为开发者提供了一个内聚且强大的环境，用于构建、优化和部署复杂的多步 AI 工作负载。通过提供优雅的抽象和高性能组件，Substrate 简化了开发过程，让创造者能够专注于构建复杂的 AI 系统，而无需被底层复杂性所困扰。

该平台围绕一组核心高性能组件构建，包括一个精选的优化语言和图像模型库、一个用于高效数据检索的集成向量数据库、一个用于执行动态任务的安全代码解释器，以及一个智能模型路由器。这种一体化的方法避免了将多个不同服务拼接在一起的麻烦，提供了无缝的开发者体验。

如何使用 Substrate

对于熟悉 Python 或 TypeScript 的开发者来说，上手 Substrate 非常简单。过程包括：

1. 注册并获取 API 密钥：在 Substrate 网站上创建一个账户，即可获得 API 密钥和 50 美元的免费额度，无需信用卡即可开始。
2. 安装 SDK：使用简单的命令（如 Python 的 pip install Substrate）在您的开发环境中安装 Substrate 库。
3. 实例化客户端：在您的代码中使用 API 密钥导入并初始化 Substrate 客户端。
4. 定义节点：通过定义“节点”来构建您的 AI 工作流。每个节点代表一个具体操作，例如生成文本 (ComputeText)、创建图像 (GenerateImage) 或查询向量数据库 (QueryVectorStore)。
5. 组合工作流：将节点链接在一起，创建复杂的多步逻辑。Substrate 的 API 范式允许您无缝地将一个节点的输出作为另一个节点的输入，使用“futures”概念来管理依赖关系。
6. 运行和优化：使用单个 s.run() 命令执行整个工作流。Substrate 的计算引擎会自动将您的工作流分析为有向无环图 (DAG)，通过合并节点和减少网络往返次数来优化，以实现最大化的并行性和效率。

Python 和 TypeScript 的代码示例都有详尽的文档，使得构建从简单的文本生成脚本到复杂的多模态代理都变得轻而易举。

Substrate 的核心功能

• 优化的计算引擎：自动将多步 AI 工作负载作为图进行分析和优化，最大化并行性并最小化延迟。
• 模块化基于节点的架构：通过连接模块化构建块（节点）来构建复杂系统，用于文本生成、图像创建、向量搜索和代码执行等任务。
• 全面的模型库：访问广泛的预优化模型，包括 Llama 3、Mixtral、Stable Diffusion XL、CLIP 等，适用于各种模态（文本、图像、音频）。
• 集成的高性能组件：内置向量数据库、安全代码解释器和模型路由器，所有这些都可以通过统一的 API 访问。
• 开发者友好的 SDK：为 Python 和 TypeScript 提供简洁、直观且文档齐全的 SDK，因其优雅的设计而备受赞誉。
• 多模态能力：原生支持跨文本、图像和音频的操作，能够创建丰富的交互式应用。
• 托管基础设施：抽象化了托管、扩展和管理 AI 模型及其依赖项的复杂性。

Substrate 的使用案例

Substrate 非常适合那些需要多个模型和工具协同工作的下一代 AI 应用开发者。主要使用案例包括：

• AI 代理：开发能够通过推理、使用工具和与数据交互来执行复杂多步任务的自主代理。
• 高级 RAG 系统：构建复杂的检索增强生成（RAG）流程，涉及文档分割、嵌入、向量搜索和文本合成。
• 多模态内容创作：通过在单个工作流中结合文本生成、图像创建/编辑和音频合成来自动化富媒体的创作。
• 复杂数据处理：创建结合语言模型和代码解释器来分析和转换数据的工作流。
• 智能应用后端：为 Web 和移动应用的智能功能提供可靠、高性能的后端支持。

Substrate 的优势特点

与其他框架和 MLOps 平台相比，Substrate 具有几个关键优势：

• 极速性能：独特的基于图的优化引擎为复合 AI 工作负载提供了显著更快的执行速度。
• 卓越的开发者体验：API 和 SDK 的设计以简洁和优雅为核心，常被描述为比 LangChain 等框架更简洁、更少臃肿的替代方案。
• 统一平台：将模型推理、向量存储和工作流编排整合到一个统一的平台中，减少了集成开销。
• 有原则的抽象：基于节点的范式为构建复杂的 AI 逻辑提供了一种清晰合理的方式，使代码更易于维护和扩展。
• 成本效益：按使用量付费的定价模式，结合性能优化减少了计算时间，可以降低总体成本。

定价和计划

Substrate 提供灵活的定价结构，适合各种规模的个人和企业：

• 入门计划：免费开始，包含 50 美元的初始额度。额度用完后，计划费用为每月 30 美元外加使用费。限制为 8 个并发节点。
• 专业计划：每月 500 美元外加使用费。此计划将并发节点限制提高到 64 个，并提供对产品路线图的优先建议权。
• 企业计划：定制价格。提供最大的节点并发数、自定义模型支持、专用实例以及通过私人 Slack 渠道提供的高级支持。
• 私有化部署计划：用于在您自己的基础设施上部署 Substrate 的定制价格。

基于用量的定价适用于语言模型（每百万 token）、图像模型（每张图像）、音频模型（每分钟/字符）、嵌入模型（每百万 token）、向量存储（每 GB/天）和代码解释器（每次会话）。