Transluce

Transluceは、公共の利益のために人工知能の責任ある開発と展開を推進することに専念する独立した研究機関です。その中核的な使命は、複雑なAIシステム、特に大規模言語モデルやAIエージェントの内部動作に関する深い洞察を提供する、オープンでスケーラブルな技術を創造することです。洗練されたツールを開発し、オープンスタンダードを育成することにより、TransluceはAI評価をより透明で堅牢、かつ意味のあるものにし、単純なパフォーマンス指標を超えてAIの行動の背後にある「なぜ」を理解することを目指しています。

その研究の最前線には、DocentとMonitorという2つの主要なツールがあります。Docentは、AIエージェントの実行トランスクリプトを調査することで、その行動を分析し介入するために設計された強力なシステムです。Monitorは、AI駆動の可観測性インターフェースとして機能し、研究者がモデルの内部を覗き込み、その内部計算を理解することを可能にします。これらのツールは、開発者、研究者、安全チームがより信頼性が高く、安全で、整合性の取れたAIシステムを構築するのを支援します。

Transluceの使い方

TransluceのツールはAI専門家向けに設計されています。主要な製品であるDocentの利用方法は以下の通りです。

1. データのロード： ユーザーは、Docentの公開ウェブプレビューでプリロードされたベンチマークを探索するか、提供されているクイックスタートガイドを使用して自身のエージェントトランスクリプトデータでDocentを実行することから始められます。
2. 分析と発見： Docentの自動化機能を利用して、膨大な量のトランスクリプトデータを処理します。システムはエージェントの行動を要約し、一般的な失敗モードをクラスタリングし、セマンティック検索を実行して特定の行動（例：「意図しない近道をしたケースを見つける」）を発見します。これにより、手動で探せば何時間もかかる問題を迅速に表面化させることができます。
3. 根本原因の特定： Docentは、壊れたタスク環境、不足しているソフトウェアパッケージ、欠陥のある推論など、エージェントの成功または失敗の原因を特定するのに役立ちます。例えば、エージェントが環境で利用できないツールを使用しようとしているために繰り返し失敗していることを特定できます。
4. 介入と実験： プラットフォーム独自の介入機能により、反事実的な実験が可能です。ユーザーは特定の時点でトランスクリプトを修正し（例えば、ヒントを与える、環境エラーを修正する、漏洩した情報の一部を削除するなど）、エージェントの実行を再開してその行動がどのように変化するかを確認できます。これは、エージェントの能力と限界に関する仮説を検証するために不可欠です。
5. 協力と貢献： Transluceは、ユーザーコミュニティのSlackを通じてコミュニティの参加を奨励しており、ユーザーはそこで質問したり、サポートを受けたり、新機能や研究に関する早期の更新情報を得ることができます。

Transluceの主な機能

• AIエージェントトランスクリプト分析 (Docent)： エージェントの対話ログから数百万のトークンを自動分析し、パターンや異常を特定します。
• 行動の要約とクラスタリング： 言語モデルを利用してエージェントの行動を自動的にグループ化・要約し、大規模なスケールで一般的な成功・失敗パターンを容易に理解できるようにします。
• セマンティック検索： ユーザーが自然言語クエリを使用して広範なトランスクリプトデータセットを検索し、特定の微妙な行動やイベントを見つけることを可能にします。
• 反事実的な介入と実験： ユーザーがチェックポイントからエージェントの実行を編集・再開して「もしも」のシナリオをテストし、エージェントの真の能力に関する深い洞察を得ることを可能にします。
• AI駆動の可観測性 (Monitor)： ニューロン記述データベースを含む、AIモデル内の内部計算を観察、理解、誘導するためのインターフェース。
• オープンスタンダードの開発： より透明で協力的な研究エコシステムを育成するために、AI評価のためのスキーマやプロトコルの作成に積極的に取り組んでいます。

Transluceの使用例

Transluceのツールは、AIエコシステムのさまざまなステークホルダーにとって価値があります。

• AI開発者と研究者： エージェントの行動をデバッグし、スキャフォールディングの問題を修正してモデルのパフォーマンスを向上させ、トップレベルの精度指標を超える洞察を得るために使用します。例えば、Docentを使用して、InterCodeベンチマークで不足しているパッケージをインストールするだけで10%のパフォーマンス向上が可能であることを発見しました。
• AIの安全性と整合性チーム： 捏造、指示不服従、評価タスクでの「チート」などの病理学的行動を積極的に特定し、軽減するために使用します。例えば、Docentは、ベンチマークの脆弱性を悪用して意図しない方法で問題を解決したモデルを発見するために使用されました。
• ベンチマーク作成者とキュレーター： 誤解を招く結果につながる可能性のある、壊れた、解決不可能な、または欠陥のあるタスクを特定することにより、評価スイートを検証および改良するために使用します。
• 監査人と規制当局： AIシステムの独立した詳細な監査を実施し、その安全性、堅牢性、信頼性に関する主張を検証するために使用します。

Transluceの利点

Transluceの主な利点は、表面的な定量的指標よりも深く質的な理解に焦点を当てていることです。これにより、以下が提供されます。

• 洞察の深さ： エージェントの行動の背後にある「なぜ」を明らかにし、集計された数値では捉えきれない多くの問題を明らかにします。
• スケーラビリティ： 手動でのトランスクリプト分析という労働集約的なプロセスを自動化し、大規模プロジェクトでの詳細な評価を可能にします。
• 実行可能なフィードバック： 介入機能は、仮説を検証し、エージェントのパフォーマンスと安全性を向上させる方法を理解するための直接的な方法を提供します。
• より安全なAIエコシステムの育成： オープンなツールを提供し、標準を推進することで、Transluceは分野全体がより責任ある信頼できるAIを構築することに貢献します。

料金プラン

Transluceは、公共の利益に焦点を当てた研究機関として運営されています。Docentの研究プレビューやオープンソースのMonitorインターフェースなどのツールは、現在無料で利用可能です。彼らは、手厚いサポートを提供し、ツールの未来を形作るために、早期のユーザーや協力者を積極的に募集しています。商業的な料金プランは記載されておらず、そのモデルは研究、協力、オープンアクセスを中心にしています。