Perspective API

Perspective APIは、Google内のユニットであるJigsawによって開発された強力な開発者向けツールで、より健全で生産的なオンライン会話を促進することを目的としています。機械学習モデルを利用してテキストを分析し、その認識される影響に基づいてスコアを付けます。主な目標は、プラットフォーム、パブリッシャー、コミュニティマネージャーが、有害または虐待的な言葉をリアルタイムで特定・緩和し、より安全で歓迎されるオンライン環境を創出する力を与えることです。モデレーションをよりスケーラブルでニュアンス豊かにすることで、Perspective APIは重要な議論へのより広範な参加を促します。

Perspective APIの使い方

開発者にとって、Perspective APIの統合は簡単です。プロセスは通常、以下のステップを含みます：

1. APIキーの取得：Perspective APIのウェブサイトにアクセスし、指示に従って開始します。これには通常、Google Cloudプロジェクトを設定し、Perspective APIを有効にして認証情報を取得することが含まれます。
2. APIリクエストの送信：分析したいテキストコンテンツをリクエストボディに含めて、APIエンドポイントにPOSTリクエストを送信します。認証のためにAPIキーを含める必要があります。
3. 属性の指定：リクエストで、APIにスコアリングさせたい属性を指定します。利用可能なモデルには、有害性（TOXICITY）、深刻な有害性（SEVERE_TOXICITY）、アイデンティティ攻撃（IDENTITY_ATTACK）、侮辱（INSULT）、冒涜（PROFANITY）、脅迫（THREAT）などがあります。
4. スコアの受信：APIは、リクエストされた各属性の確率スコアを含むJSONオブジェクトを返します。これらのスコアは0.0（非常に低い）から1.0（非常に高い）の範囲で、テキストがその属性を含むと認識される可能性を表します。
5. ロジックの実装：これらのスコアをアプリケーションのロジック内で使用します。例えば、コメントの有害性スコアが0.8を超えた場合に自動的に人間によるレビューのためにフラグを立てたり、ユーザーが投稿する前にリアルタイムでフィードバックを提供したり、読者がスコアに基づいてコメントをフィルタリングできるようにしたりします。

Perspective APIの主な機能

• リアルタイムテキスト分析：APIはテキストスニペットのスコアをほぼ瞬時に提供するため、コメントセクションやチャットルームなどのライブアプリケーションに適しています。
• 複数の分析属性：有害性、深刻な有害性、アイデンティティ攻撃、侮辱、冒涜、脅迫など、さまざまな属性にわたってテキストをスコアリングでき、きめ細かなモデレーションポリシーを可能にします。
• 多言語対応：モデルは、英語、スペイン語、フランス語、ドイツ語、ポルトガル語など、複数の言語のテキストを理解し分析するように訓練されています。
• カスタマイズ可能な閾値：プラットフォームが完全にコントロールできます。異なるアクション（フラグ付け、非表示、フィードバック提供など）に使用するスコアの閾値を決定し、ツールの動作を特定のコミュニティガイドラインに合わせることができます。
• オープンソースツールと研究：Jigsawは、透明性を促進し、対話型AIの分野でのさらなるイノベーションを奨励するために、学術研究、データセット、オープンソースコードへのアクセスを提供しています。

Perspective APIの使用例

Perspective APIは、オンラインの言説を改善するためにさまざまな方法で適用できます：

• 自動コンテンツモデレーション：潜在的に有害なコメントを自動的にフラグ付けまたはキューに入れ、人間のモデレーターによるレビューを待つことで、彼らの作業負荷を大幅に削減します。
• コメント投稿者へのリアルタイムフィードバック：ユーザーに、自分のコメントが他人にどのように受け取られる可能性があるかを即座に評価し、投稿前に修正する機会を与えます。これにより、会話の質を積極的に向上させることができます。
• コメントの並べ替えとフィルタリング：読者が特定の有害性レベルを超えるコメントを非表示にするなど、コメントセクションを並べ替えたりフィルタリングしたりできるようにし、ユーザーが自身の閲覧体験をコントロールできるようにします。
• コミュニティ健全性分析：コミュニティマネージャーは、時間経過に伴う会話の傾向を分析して、コミュニティ全体の健全性を理解し、モデレーション戦略の影響を測定できます。
• ジャーナリストと公人の保護：報道機関やプラットフォームは、APIを使用して、ライターや公人を圧倒的な量のオンライン上の罵詈雑言から保護することができます。

Perspective APIの利点

Perspective APIの主な利点は、コンテンツモデレーションの取り組みを効果的にスケールできる能力です。Googleの堅牢なインフラストラクチャと最先端の機械学習研究に支えられています。このAPIは、画一的な解決策ではなく、柔軟なツールとして設計されており、プラットフォームが独自の会話規範を定義・実施する力を与えます。有害性を減らすことで、より多くの人々が安全に議論に参加できるようになり、ユーザーエンゲージメントと定着率の向上につながります。寛大な無料枠により、個人の開発者から大規模なプラットフォームまで、あらゆる規模のプロジェクトで利用しやすくなっています。

料金プラン

Perspective APIは寛大な無料枠で提供されており、非常にアクセスしやすいです。開発者とプラットフォームは、1秒あたり最大1クエリ（1 QPS）を無料で行うことができます。これは、多くの中小規模のアプリケーション、研究プロジェクト、開発環境にとって十分です。より多くのクエリ量を必要とするアプリケーションの場合、ユーザーはGoogle Cloudプロジェクトを通じて制限の引き上げをリクエストできます。API自体は無料で使用できますが、プロジェクト全体の構成や非常に高いスケールでの使用状況によっては、標準のGoogle Cloud Platformの料金が適用される場合があります。