Robust Intelligence

Robust Intelligence（現在はCiscoの一部）は、企業のAIトランスフォーメーションの全行程を保護するために設計された、包括的なAIリスク管理プラットフォームを提供します。AIモデルが事業運営に不可欠となる時代において、モデルは攻撃に対する脆弱性、データ漏洩、望ましくない出力、パフォーマンスの低下といった重大なリスクももたらします。Robust Intelligenceは、従来の機械学習から最新の生成AIや大規模言語モデル（LLM）まで、すべてのAIモデルの検証、保護、ガバナンスを自動化する統一ソリューションで、これらの課題に正面から取り組みます。

このプラットフォームは、プロアクティブなリスク軽減の原則に基づいて構築されており、組織が本番環境に影響を与える前に欠陥を特定し、修正することを可能にします。モデルを「ブラックボックス」として扱うことで、あらゆるモデルアーキテクチャ（表形式、NLP、コンピュータビジョンなど）に対する普遍的な互換性を提供し、既存のMLOpsワークフローにシームレスに統合します。このアプローチにより、データサイエンスチームとセキュリティチームが効果的に協力し、AIシステムが強力であるだけでなく、堅牢で、コンプライアンスに準拠し、信頼できるものであることを保証します。

Robust Intelligenceの使い方

このプラットフォームは、企業の既存のAIエコシステム内でシームレスに統合・運用できるように設計されています。典型的なワークフローは以下の通りです。

1. 接続と統合： データソースとモデルをRobust Intelligenceプラットフォームに簡単に接続します。強力なPython SDKとREST APIを使用して、このツールをCI/CDおよびMLOpsパイプライン（Databricks、AWS Sagemaker、その他のクラウド環境など）に直接統合できます。
2. AIテスティング（デプロイ前）： モデルをデプロイする前に、厳格な自動テストにかけます。プラットフォームは数百のストレステストを実行し、アルゴリズムによるレッドチーム演習を行って、隠れた脆弱性、バイアス、エッジケースの障害を明らかにします。このプロセスは、標準化されたモデルカードと監査記録を自動的に生成し、ガバナンスとコンプライアンス文書の作成を簡素化します。
3. AIファイアウォール（リアルタイム保護）： リアルタイム保護レイヤーであるAIファイアウォールと共にモデルをデプロイします。このAPIベースのサービスは、本番環境のすべての入力と出力を検査します。悪意のあるプロンプトインジェクション（ジェイルブレイク）、個人識別情報（PII）や機密データの漏洩、有害または有毒なコンテンツ、運用上の障害などの脅威を積極的にブロックし、モデルの応答が常に安全で適切であることを保証します。
4. 監視、ガバナンス、修正： 一元化されたガバナンスダッシュボードを通じて、デプロイされたすべてのモデルを継続的に監視します。新たに検出されたリスクやパフォーマンスの低下に関するリアルタイムのアラートを受け取ります。プラットフォームは、チームが迅速に問題を修正し、進化するAI規制や内部ポリシーへのコンプライアンスを維持するための実用的な洞察を提供します。

Robust Intelligenceの主な機能

• AIファイアウォール： 入力と出力を検証することで、本番環境のモデルをリアルタイムでインライン保護し、悪意のある攻撃、データ漏洩、望ましくない応答を防ぎます。
• AIテスティング： アルゴリズムによるレッドチーム演習と数百の事前構築済みテストを使用して、モデルのライフサイクル全体で脆弱性、バイアス、パフォーマンスの問題をプロアクティブに特定する自動検証スイートです。
• アルゴリズムによるレッドチーム演習： 独自のTAP（Tree of Attacks with Pruning）手法などの高度な技術を活用して、LLMやその他のモデルの複雑な脆弱性を自動的に発見・悪用し、手動テストの能力をはるかに超えます。
• 包括的なモデルとモダリティのサポート： 生成AI、LLM、表形式、自然言語処理（NLP）、コンピュータビジョンモデルなど、すべての主要なモデルタイプをネイティブにサポートし、最大限の互換性のためにブラックボックスとして扱います。
• ガバナンスとコンプライアンスの自動化： すべてのAIモデルを監視するための中央ダッシュボードを備え、主要なAI規制やフレームワーク（EU AI法、NIST AI RMFなど）に対応するモデルカードとコンプライアンスレポートを自動生成します。
• シームレスなMLOps統合： Databricks、MongoDB Atlas、Datadogなどの既存プラットフォームやクラウドデータストレージと簡単に統合できる強力なREST APIとPython SDKを提供し、ワークフロー内でリスク管理を自動化します。

Robust Intelligenceの使用例

Robust Intelligenceは、さまざまな業界の主要企業からAIアプリケーションを保護するために信頼されています。

• 金融サービス： セブン銀行や東京海上日動などの銀行や保険会社は、保険金支払い処理、不正検知、カスタマーサポートチャットボット、リスク評価といった重要な機能でAIを保護し、モデルの精度と金融規制への準拠を確保するためにこのプラットフォームを使用しています。
• テクノロジー・通信： NECやLINEヤフーなどの企業は、自社開発のLLMの性能と安全性を評価し、エンタープライズ向け展開や顧客向けアプリケーションで安全かつ信頼できることを保証するためにこのプラットフォームを活用しています。
• ヘルスケア： AI駆動の診断ツールにおける機密性の高い患者データ（PHI）を保護し、医療推奨モデルが公正、正確で、有害なバイアスがないことを保証します。
• Eコマース・小売： 推薦エンジンや生成AIを活用したカスタマーサービスボットを、データポイズニング、悪意のある入力、顧客のPII漏洩から保護します。

Robust Intelligenceの利点

このプラットフォームは、AIイニシアチブを拡大する企業に明確な利点を提供します。

• エンドツーエンドのリスクカバレッジ： 開発・テストから本番監視・ガバナンスまで、AIのライフサイクル全体をカバーする包括的なソリューションを提供します。
• プロアクティブで自動化されたセキュリティ： 本番環境で悪用される前にリスクを自動的に特定・警告することで、AIセキュリティを事後対応から事前対応へと転換させます。
• スケーラビリティ： 数百、数千のモデルと大容量のデータパイプラインにシームレスに拡張できるように設計されており、大規模なエンタープライズAIの導入に適しています。
• 最先端の研究に基づく設立： ハーバード大学の第一線の研究者によって開発されたこのプラットフォームは、敵対的機械学習とAIの脆弱性に関する深い理解に基づいて構築されています。
• エンタープライズ対応： Cisco傘下の企業として、Robust Intelligenceはスタートアップの俊敏性とエンタープライズグレードのセキュリティ、サポート、信頼性を兼ね備え、世界のリーダー企業から信頼されています。

料金プラン

Robust Intelligenceはエンタープライズ向けのプラットフォームであり、料金はモデル数や使用量など、組織の特定のニーズに合わせてカスタマイズされます。料金情報は公開されていません。ご興味のある方は、公式ウェブサイトから営業チームに連絡するか、無料デモをリクエストして、カスタム見積もりと詳細なソリューション概要を入手することをお勧めします。