Perspective API

Perspective API是由Google旗下部門Jigsaw開發的一款功能強大的開發者工具，旨在幫助營造更健康、更富有成效的線上對話。它利用機器學習模型分析文本，並根據其感知影響進行評分。其主要目標是賦能平台、發布者和社群管理者，即時識別和減輕有毒或辱罵性語言，從而創造更安全、更受歡迎的線上環境。透過使內容審核更具可擴展性和精細化，Perspective API有助於鼓勵更多人參與到有意義的討論中。

如何使用Perspective API

對於開發者來說，整合Perspective API的過程非常簡單。通常包括以下步驟：

1. 取得API金鑰：首先造訪Perspective API網站，並按照指引開始使用。這通常需要設定一個Google Cloud專案並啟用Perspective API以取得憑證。
2. 發出API請求：向API端點發送一個POST請求，請求體中包含您希望分析的文本內容。您必須在請求中包含API金鑰以進行身份驗證。
3. 指定屬性：在請求中，您可以指定希望API評分的屬性。可用的模型包括毒性（TOXICITY）、嚴重毒性（SEVERE_TOXICITY）、身份攻擊（IDENTITY_ATTACK）、侮辱（INSULT）、褻瀆（PROFANITY）和威脅（THREAT）。
4. 接收分數：API會返回一個JSON物件，其中包含每個請求屬性的機率分數。這些分數範圍從0.0（極不可能）到1.0（極可能），表示文本被感知為包含該屬性的可能性。
5. 實現邏輯：在您的應用程式邏輯中使用這些分數。例如，如果一個評論的毒性分數超過0.8，您可以自動將其標記以供人工審核；在用戶發布評論前向其提供即時回饋；或者允許讀者根據分數篩選評論。

Perspective API的核心功能

• 即時文本分析：該API幾乎可以即時為文本片段提供分數，使其非常適用於評論區和聊天室等即時應用。
• 多種分析屬性：它能從多個維度對文本進行評分，包括毒性、嚴重毒性、身份攻擊、侮辱、褻瀆、威脅等，從而實現精細化的審核策略。
• 多語言支援：模型經過訓練，能夠理解和分析多種語言的文本，包括英語、西班牙語、法語、德語、葡萄牙語等。
• 可自訂的閾值：平台擁有完全的控制權。他們可以決定針對不同操作（如標記、隱藏或提供回饋）使用何種分數閾值，使工具的行為與其特定的社群準則保持一致。
• 開源工具與研究：Jigsaw提供學術研究、資料集和開源程式碼的存取權限，以提高透明度並鼓勵對話式AI領域的進一步創新。

Perspective API的使用案例

Perspective API可以多種方式應用於改善線上交流：

• 自動化內容審核：自動標記或將潛在有害評論放入佇列，供人工版主審核，從而顯著減輕他們的工作負擔。
• 為評論者提供即時回饋：在用戶發布評論前，即時評估其言論可能給他人帶來的感受，讓他們有機會修改。這可以主動提高對話品質。
• 評論排序與過濾：允許讀者對評論區進行排序或過濾，例如隱藏毒性水平高於某個閾值的評論，讓用戶能夠控制自己的閱讀體驗。
• 社群健康分析：社群管理者可以分析一段時間內的對話趨勢，以了解社群的整體健康狀況，並衡量其審核策略的影響。
• 保護記者和公眾人物：新聞機構和平台可以使用該API來保護其作者和公眾人物免受海量網路濫用言論的侵害。

Perspective API的優勢特點

Perspective API的主要優勢在於其能有效擴展內容審核工作的能力。它由Google強大的基礎設施和前沿的機器學習研究提供支援。該API被設計為一個靈活的工具，而非「一刀切」的解決方案，它賦予平台定義和執行自己對話規範的權力。透過幫助減少毒性內容，它可以帶來更高的用戶參與度和留存率，因為更多人會感到安全並願意參與討論。其慷慨的免費方案使其適用於各種規模的專案，從個人開發者到大型平台。

定價和計劃

Perspective API提供慷慨的免費方案，使其非常易於使用。開發者和平台可以免費每秒最多進行一次查詢（1 QPS）。這對於許多中小型應用程式、研究專案和開發環境來說已經足夠。對於需要更高查詢量的應用程式，用戶可以透過其Google Cloud專案申請增加限制。雖然API本身仍然免費使用，但根據整體專案配置和在極高規模下的使用情況，可能會產生標準的Google Cloud Platform費用。