Aporia

최근 Coralogix에 인수된 Aporia는 기업을 위한 안전하고 신뢰할 수 있는 AI를 제공하기 위해 설계된 포괄적인 플랫폼입니다. 모든 AI 워크로드에 대해 최첨단 가드레일(Guardrails) 및 관찰 가능성(Observability)을 제공하며, 특히 생성형 AI 및 대규모 언어 모델(LLM) 애플리케이션 보안에 특화되어 있습니다. Aporia는 환각, 프롬프트 주입 공격, 데이터 유출, 유해 콘텐츠와 같은 위험을 완화하여 AI의 행동이 비즈니스 정책 및 브랜드 가치와 일치하도록 보장함으로써 조직이 자신감을 가지고 AI를 배포할 수 있도록 지원합니다.

이 플랫폼은 원활한 통합과 고성능을 위해 구축되었습니다. 단일 대형 LLM 대신 독자적인 multiSLM(다중 소형 언어 모델) 탐지 엔진을 사용하여 최소한의 지연 시간과 비용으로 탁월한 정확성과 속도를 달성합니다. 이를 통해 보호받는 AI 애플리케이션의 사용자 경험이 원활하게 유지되고 영향을 받지 않도록 보장합니다. Aporia는 Vertex AI, Portkey, Litellm, Cloudflare와 같은 다양한 인프라 및 AI 게이트웨이와 통합되어 기존 워크플로우에 직접 맞도록 설계되었습니다.

Aporia 사용 방법

Aporia를 구현하여 AI를 보호하는 것은 몇 분 안에 완료할 수 있는 간단한 4단계 프로세스입니다:

1. 사용자 정의: Aporia의 광범위한 카탈로그에서 정책을 선택하거나 특정 요구에 맞는 사용자 정의 정책을 생성하여 시작합니다. 각 정책에 대한 민감도 수준을 구성하고, 정책 위반 시 실시간으로 취할 조치(이벤트 기록, 사용자 경고, 출력 재구성 또는 응답 완전 재정의 등)를 결정할 수 있습니다.
2. 테스트 및 조정: 라이브 샌드박스 환경을 활용하여 구성된 정책에 대한 AI 에이전트의 동작을 테스트합니다. 이를 통해 사전 구성된 예제나 자체 테스트 케이스를 사용하여 배포 전 정확성을 보장하고 원하는 동작을 달성할 때까지 각 정책의 민감도와 조치를 미세 조정할 수 있습니다.
3. 탐지 및 차단: 정책 구성에 만족하면 한 번의 클릭으로 활성화할 수 있습니다. Aporia는 즉시 라이브 AI 제품을 보호하기 시작하여 규칙에 따라 실시간으로 프롬프트와 응답을 차단하고 관리합니다.
4. 감독: 포괄적인 대시보드를 통해 AI의 성능과 보안을 모니터링합니다. 정책 위반에 대한 실시간 로그, 취해진 조치를 검토하고 세션 탐색기(Session Explorer)를 통해 AI 및 사용자 행동에 대한 통계적 통찰력을 얻을 수 있습니다. 이는 AI 시스템에 대한 완전한 투명성과 지속적인 제어를 제공합니다.

Aporia의 핵심 기능

• AI 보안 가드레일: 프롬프트 주입, 탈옥 시도, 프롬프트 유출 및 데이터 유출(PII 포함)을 탐지하고 차단합니다. 회사별 정책을 시행하고 무단 SQL 작업을 방지합니다.
• AI 신뢰성 가드레일: RAG 환각을 완화하고, 유해하거나 부적절한 콘텐츠를 탐지 및 재정의하며, 대화가 허용된 주제에 머무르도록 보장하고, 경쟁사나 제한된 주제에 대한 논의를 차단합니다.
• 사용자 정의 정책: 브랜드 가치와 운영 요구 사항에 완벽하게 부합하는 사용자 정의 가드레일 정책을 생성할 수 있는 유연성을 제공합니다.
• Multi-SLM 탐지 엔진: 여러 소형 언어 모델을 사용하여 매우 정확하고 낮은 지연 시간(300ms 미만)의 탐지를 제공하는 최첨단 엔진으로, 원활한 사용자 경험을 보장합니다.
• 실시간 관찰 가능성: AI 상호 작용, 정책 위반 및 전반적인 성능에 대한 완전한 가시성을 위해 라이브 대시보드, 세션 탐색기 및 로그를 제공합니다.
• LLM 비용 관리: 모든 쿼리와 토큰을 추적하여 LLM 비용을 제어합니다. 작업, 모델 버전 또는 지역별로 비용을 분석하고 실시간으로 비용 이상을 탐지하여 예산을 최적화합니다.
• 멀티모달 및 스트리밍 지원: 실시간 오디오 봇을 포함한 멀티모달 애플리케이션으로 가드레일을 확장하고, 스트리밍 응답을 원활하게 처리하여 콘텐츠를 즉시 검증합니다.
• 엔터프라이즈급 규정 준수: Aporia는 HIPAA, SOC 2, Pentest 및 GDPR 인증을 받았으며, 데이터 프라이버시를 보장하기 위해 프라이빗 클라우드와 같은 안전한 배포 옵션을 제공합니다.

Aporia의 사용 사례

Aporia는 고객 대면 또는 내부 AI 애플리케이션을 배포하는 모든 조직에 이상적입니다:

• 공개 챗봇 보안: 프롬프트 주입을 시도하거나 민감한 시스템 정보를 추출하려는 악의적인 사용자로부터 AI 어시스턴트를 보호합니다.
• 브랜드 안전 보장: AI가 회사 평판을 손상시킬 수 있는 유해하거나 브랜드에 맞지 않는 부적절한 콘텐츠를 생성하는 것을 방지합니다.
• 규제 준수: GDPR, HIPAA 및 기타 데이터 프라이버시 규정을 준수하기 위해 프롬프트와 응답에서 개인 식별 정보(PII)를 자동으로 탐지하고 수정합니다.
• AI 신뢰성 향상: RAG 및 비-RAG 환각의 위험을 줄여 AI가 제공된 컨텍스트를 기반으로 정확하고 신뢰할 수 있는 정보를 제공하도록 보장합니다.
• 비용 최적화: LLM을 많이 활용하는 비즈니스의 경우, Aporia의 비용 추적 기능은 예산 초과를 방지하고 AI 서비스 지출을 최적화하는 데 중요한 통찰력을 제공합니다.

Aporia의 장점

Aporia는 AI로 구축하는 팀에게 상당한 이점을 제공합니다:

• 포괄적인 보호: 모든 AI 모델의 보안, 신뢰성 및 비용을 관리하는 단일 플랫폼입니다.
• 고성능: 업계 최고의 낮은 지연 시간과 효율성으로 보안을 추가해도 사용자 경험이 저하되지 않도록 보장합니다.
• 완전한 사용자 정의 및 제어: 정책 및 실시간 조치에 대한 세분화된 제어를 통해 팀이 AI의 동작 방식을 정확하게 정의할 수 있습니다.
• 신속한 구현: 5분 이내에 시작하고 기존 AI 스택에 원활하게 통합할 수 있습니다.
• 기업의 신뢰: 엔터프라이즈급 보안 및 규정 준수 표준으로 구축되어 포춘 500대 기업 및 규제 산업에 적합합니다.

가격 및 플랜

Aporia는 다양한 요구에 맞는 유연한 가격 구조를 제공합니다:

• 무료 플랜: 월 $0. 월 1백만 가드레일 유닛(GRU), 3개 프로젝트, 5개 시트, 3개 사용자 정의 정책 및 7일 세션 기록을 포함합니다. 개인 및 소규모 팀이 시작하기에 이상적입니다.
• 팀 플랜: 월 $60. 월 5백만 GRU(추가 GRU는 백만 당 $12), 무제한 프로젝트 및 시트, 10개 사용자 정의 정책, 30일 세션 기록 및 이메일/Slack 지원을 포함합니다.
• 엔터프라이즈 플랜: 맞춤형 가격. 맞춤형 GRU 할당을 제공하며, 팀 플랜의 모든 기능과 무제한 사용자 정의 정책, 90일 기록, SLA, 전담 지원, SSO, 프라이빗 클라우드 배포 옵션 및 전체 규정 준수 보고서(SOC 2, HIPAA)를 포함합니다.