Aporia

Aporia 最近被 Coralogix 收购，是一个旨在为企业提供安全、可靠和可信赖 AI 的综合平台。它为任何 AI 工作负载提供最先进的护栏（Guardrails）和可观测性（Observability），专注于保护生成式 AI 和大型语言模型（LLM）应用。Aporia 通过减轻幻觉、提示注入攻击、数据泄露和有害内容等风险，确保 AI 行为符合业务策略和品牌价值，从而使组织能够自信地部署 AI。

该平台专为无缝集成和高性能而构建。它采用独特的 multiSLM（多个小型语言模型）检测引擎，而非单一的大型语言模型，这使其能够以极低的延迟和成本实现卓越的准确性和速度。这确保了受保护的 AI 应用的用户体验保持流畅且不受影响。Aporia 旨在直接融入现有工作流程，与 Vertex AI、Portkey、Litellm 和 Cloudflare 等各种基础设施和 AI 网关集成。

如何使用 Aporia

实施 Aporia 来保护您的 AI 是一个简单的四步流程，几分钟内即可完成：

1. 自定义：首先从 Aporia 广泛的目录中选择策略，或根据您的特定需求创建自定义策略。您可以为每个策略配置敏感度级别，并决定在违反策略时采取的实时操作，例如记录事件、警告用户、重述输出或完全覆盖响应。
2. 测试与调整：利用实时沙盒环境测试您的 AI 代理在配置策略下的行为。这使您可以使用预配置的示例或您自己的测试用例来微调每个策略的敏感度和操作，直到达到预期的行为，从而在部署前确保准确性。
3. 检测与拦截：一旦您对策略配置感到满意，只需单击一下即可激活它们。Aporia 会立即开始保护您的线上 AI 产品，根据您的规则实时拦截和管理提示和响应。
4. 监督：通过一个全面的仪表板监控您的 AI 的性能和安全性。查看策略违规的实时日志、所采取的操作，并通过会话浏览器（Session Explorer）获得关于您的 AI 和用户行为的统计见解。这为您的 AI 系统提供了完全的透明度和持续的控制。

Aporia 的核心功能

• AI 安全护栏：检测并阻止提示注入、越狱尝试、提示泄露和数据泄露（包括 PII）。强制执行公司特定策略，并防止未经授权的 SQL 操作。
• AI 可靠性护栏：减轻 RAG 幻觉，检测并覆盖有毒或不雅内容，确保对话保持在允许的主题范围内，并阻止关于竞争对手或受限主题的讨论。
• 自定义策略：提供创建与您的品牌价值和运营要求完美契合的自定义护栏策略的灵活性。
• Multi-SLM 检测引擎：一种最先进的引擎，使用多个小型语言模型进行高精度和低延迟（低于 300 毫秒）的检测，确保无缝的用户体验。
• 实时可观测性：提供实时仪表板、会话浏览器和日志，以全面了解您的 AI 交互、策略违规和整体性能。
• LLM 成本管理：跟踪每个查询和令牌以控制 LLM 成本。按任务、模型版本或地区分析费用，并实时检测成本异常以优化您的预算。
• 多模态与流式支持：将护栏扩展到多模态应用，包括实时音频机器人，并无缝处理流式响应以动态验证内容。
• 企业级合规性：Aporia 已通过 HIPAA、SOC 2、渗透测试和 GDPR 认证，提供私有云等安全部署选项，以确保数据隐私。

Aporia 的使用案例

Aporia 非常适合任何部署面向客户或内部 AI 应用的组织：

• 保护公共聊天机器人：保护 AI 助手免受恶意用户的提示注入攻击或试图提取敏感系统信息的行为。
• 确保品牌安全：防止 AI 生成有毒、不符合品牌形象或不当的内容，以免损害公司声誉。
• 法规遵从：在提示和响应中自动检测和编辑个人身份信息（PII），以遵守 GDPR、HIPAA 和其他数据隐私法规。
• 提高 AI 可靠性：降低 RAG 和非 RAG 幻觉的风险，确保 AI 基于所提供的上下文提供准确可信的信息。
• 成本优化：对于大量使用 LLM 的企业，Aporia 的成本跟踪功能提供了关键的洞察，以防止预算超支并优化 AI 服务支出。

Aporia 的优势特点

Aporia 为使用 AI 构建的团队提供了显著优势：

• 全面保护：一个平台管理所有 AI 模型的安全性、可靠性和成本。
• 高性能：行业领先的低延迟和高效率确保增加安全性不会降低用户体验。
• 完全自定义和控制：对策略和实时操作的精细控制使团队能够精确定义其 AI 的行为方式。
• 快速实施：不到 5 分钟即可开始使用，并无缝集成到现有的 AI 技术栈中。
• 受企业信赖：采用企业级安全和合规标准构建，适用于财富 500 强公司和受监管行业。

定价和计划

Aporia 提供灵活的定价结构以满足不同需求：

• 免费计划：每月 0 美元。包括每月 100 万个护栏单位（GRU），3 个项目，5 个席位，3 个自定义策略和 7 天的会话历史记录。非常适合个人和小型团队入门。
• 团队计划：每月 60 美元。包括每月 500 万个 GRU（额外 GRU 每百万 12 美元），无限项目和席位，10 个自定义策略，30 天的会话历史记录以及电子邮件/Slack 支持。
• 企业计划：自定义定价。提供自定义 GRU 分配，并包括团队计划中的所有内容，外加无限的自定义策略、90 天的历史记录、SLA、专属支持、SSO、私有云部署选项和完整的合规报告（SOC 2, HIPAA）。