Zep

Zep 是一个先进的上下文工程平台，旨在帮助开发者构建具有持久性长期记忆的复杂 AI 代理。Zep 超越了简单的提示工程，专注于系统性地为大型语言模型（LLM）提供所有必要的上下文——包括用户历史、业务数据和对话细节——以实现可靠和准确的任务完成。该平台的核心创新在于其能够将对话和数据转化为一个随时序演进的知识图谱，确保 AI 代理始终掌握最相关、最新的信息。

Zep 的核心解决了无状态 LLM 的根本局限性，即它们缺乏对过去交互的记忆。通过创建一个“活”的知识图谱，Zep 允许代理记住用户的偏好、之前的对话和关键业务背景，用户无需重复信息，从而实现真正的个性化体验。这是通过自动实体提取、关系映射和事实核对的组合实现的，从而使知识库能够随着时间的推移保持准确和连贯。

如何使用 Zep

Zep 旨在无缝集成到现有的 AI 开发工作流程中，特别适合使用 LangChain 和 LangGraph 等框架的开发者。入门过程非常简单，只需几行代码即可完成。

1. 注册并获取 API 密钥： 在 Zep 网站上从免费套餐开始，获取您的 API 凭证。初始设置无需信用卡。
2. 安装 Zep 客户端： 将 Zep 客户端库集成到您的 Python 应用程序中。
3. 向记忆中添加对话： 在您的代理代码中，使用简单的函数调用将新消息添加到用户会话记忆中。例如：zep.memory.add(session_id, messages)。Zep 会自动处理此对话，提取事实和实体，并更新知识图谱。
4. 检索相关上下文： 在调用您的 LLM 之前，从 Zep 检索已组装好的上下文。像 memory = zep.memory.get(session_id) 这样的单个调用，即可提供一个优化的上下文块，其中包含与当前交互相关的关键事实、实体和摘要。
5. 注入业务数据： 通过注入 JSON、文本或消息格式的数据，连接您的业务数据源（如 CRM、计费系统或支持数据库）。Zep 会将这些信息集成到知识图谱中，使其可供检索。

Zep 的核心功能

• 代理记忆： 为代理提供完美的、持久的用户偏好、过去对话和关键细节的记忆，确保所有交互中的对话连续性。
• 图谱 RAG： 一个基于知识图谱的超快速检索增强生成系统。它能理解您业务数据中的复杂关系和上下文，并在毫秒级内处理动态信息。
• 自动上下文组装： 自动构建结构化的、为 LLM 准备好的上下文块。它将用户特征、交互历史和业务数据组合成一种节省令牌的格式，无需手动制作提示。
• 时序知识图谱构建： 自动从非结构化对话和结构化数据中提取实体、关系和事实。它会将新信息与现有数据进行核对，甚至会使过时的事实失效，以随时间保持准确性。
• 企业级合规性： 提供 SOC 2 Type II 认证并符合 HIPAA 标准，使其适用于医疗保健等受监管行业的应用。

Zep 的使用案例

Zep 的功能可应用于各种领域，以创建高度个性化和高效的 AI 代理：

• 客户支持： 代理可以访问客户的完整交互历史、先前问题和账户详情，从而提供快速、准确和个性化的支持，而无需询问重复性问题。
• 销售与市场营销： 销售代理可以回忆潜在客户的偏好、产品兴趣、过去的定价讨论和互动模式，以个性化推广并加速销售周期。
• 电子商务： 通过记住用户的风格偏好、购买历史甚至最近的投诉（例如，鞋子坏了），个性化购物体验，使代理能够提供高度相关的推荐。
• 医疗保健： 符合 HIPAA 标准的代理可以安全地管理患者交互历史，帮助安排预约、进行随访，并在保持上下文和隐私的同时提供信息。
• 教育： AI 导师可以记住学生的学习进度、难点和偏好的学习方式，以创造适应性强且有效的教育体验。

Zep 的优势特点

Zep 为 AI 应用带来了显著的性能和效率提升：

• 准确性大幅提升： 通过提供正确的上下文，Zep 在复杂任务上的代理性能实现了超过 100% 的准确性提升。
• 降低延迟： 优化的上下文检索和组装使延迟降低了 90%，实现了实时交互。
• 高令牌效率： 智能上下文组装可将令牌使用量减少高达 98%，在保持全面理解的同时降低了运营成本。
• 快速开发： 开发者可以在几天内而不是几个月内部署个性化代理，避免了从零开始构建复杂的记忆和检索基础设施。
• 可扩展且安全： Zep 为团队构建并经过规模验证，提供企业级安全性，包括 SOC 2 和 HIPAA 合规性，以及私有云部署（BYOC）选项。

定价和计划

Zep 提供灵活的、基于用量的定价模式，适用于各种规模的项目。

• 计量计划（免费增值）： 此计划非常适合开发者和成长中的应用。它包含一个慷慨的免费套餐，每月提供 2,500 条消息和 2.5MB 的图谱数据。超出免费配额后，定价为每 1,000 条消息 1.25 美元，每 MB 图谱数据 2.50 美元。
• 企业计划： 专为任务关键型应用设计，此计划提供自定义限制、SOC 2 Type II 认证、包含 HIPAA BAA、单租户、专属 Slack 支持和 SLA 保证。
• 企业 BYOC（自带云）： 为了最大限度地控制数据和安全性，Zep 可以部署在您自己的 AWS、GCP 或 Azure 环境中，确保数据永远不会离开您的安全边界。
• 初创公司信用额度： 获得风险投资的初创公司可以申请 2,500 美元的订阅信用额度。