Perspective API

Perspective API是由谷歌旗下部门Jigsaw开发的一款功能强大的开发者工具，旨在帮助营造更健康、更富有成效的在线对话。它利用机器学习模型分析文本，并根据其感知影响进行评分。其主要目标是赋能平台、发布者和社区管理者，实时识别和减轻有毒或辱骂性语言，从而创造更安全、更受欢迎的在线环境。通过使内容审核更具可扩展性和精细化，Perspective API有助于鼓励更多人参与到有意义的讨论中。

如何使用Perspective API

对于开发者来说，集成Perspective API的过程非常简单。通常包括以下步骤：

1. 获取API密钥：首先访问Perspective API网站，并按照指引开始使用。这通常需要设置一个Google Cloud项目并启用Perspective API以获取凭证。
2. 发出API请求：向API端点发送一个POST请求，请求体中包含您希望分析的文本内容。您必须在请求中包含API密钥以进行身份验证。
3. 指定属性：在请求中，您可以指定希望API评分的属性。可用的模型包括毒性（TOXICITY）、严重毒性（SEVERE_TOXICITY）、身份攻击（IDENTITY_ATTACK）、侮辱（INSULT）、亵渎（PROFANITY）和威胁（THREAT）。
4. 接收分数：API会返回一个JSON对象，其中包含每个请求属性的概率分数。这些分数范围从0.0（极不可能）到1.0（极可能），表示文本被感知为包含该属性的可能性。
5. 实现逻辑：在您的应用程序逻辑中使用这些分数。例如，如果一个评论的毒性分数超过0.8，您可以自动将其标记以供人工审核；在用户发布评论前向其提供实时反馈；或者允许读者根据分数筛选评论。

Perspective API的核心功能

• 实时文本分析：该API几乎可以即时为文本片段提供分数，使其非常适用于评论区和聊天室等实时应用。
• 多种分析属性：它能从多个维度对文本进行评分，包括毒性、严重毒性、身份攻击、侮辱、亵渎、威胁等，从而实现精细化的审核策略。
• 多语言支持：模型经过训练，能够理解和分析多种语言的文本，包括英语、西班牙语、法语、德语、葡萄牙语等。
• 可自定义的阈值：平台拥有完全的控制权。他们可以决定针对不同操作（如标记、隐藏或提供反馈）使用何种分数阈值，使工具的行为与其特定的社区准则保持一致。
• 开源工具与研究：Jigsaw提供学术研究、数据集和开源代码的访问权限，以提高透明度并鼓励对话式AI领域的进一步创新。

Perspective API的使用案例

Perspective API可以多种方式应用于改善在线交流：

• 自动化内容审核：自动标记或将潜在有害评论放入队列，供人工版主审核，从而显著减轻他们的工作负担。
• 为评论者提供实时反馈：在用户发布评论前，即时评估其言论可能给他人带来的感受，让他们有机会修改。这可以主动提高对话质量。
• 评论排序与过滤：允许读者对评论区进行排序或过滤，例如隐藏毒性水平高于某个阈值的评论，让用户能够控制自己的阅读体验。
• 社区健康分析：社区管理者可以分析一段时间内的对话趋势，以了解社区的整体健康状况，并衡量其审核策略的影响。
• 保护记者和公众人物：新闻机构和平台可以使用该API来保护其作者和公众人物免受海量网络滥用言论的侵害。

Perspective API的优势特点

Perspective API的主要优势在于其能有效扩展内容审核工作的能力。它由谷歌强大的基础设施和前沿的机器学习研究提供支持。该API被设计为一个灵活的工具，而非“一刀切”的解决方案，它赋予平台定义和执行自己对话规范的权力。通过帮助减少毒性内容，它可以带来更高的用户参与度和留存率，因为更多人会感到安全并愿意参与讨论。其慷慨的免费套餐使其适用于各种规模的项目，从个人开发者到大型平台。

定价和计划

Perspective API提供慷慨的免费套餐，使其非常易于使用。开发者和平台可以免费每秒最多进行一次查询（1 QPS）。这对于许多中小型应用程序、研究项目和开发环境来说已经足够。对于需要更高查询量的应用程序，用户可以通过其Google Cloud项目申请增加限制。虽然API本身仍然免费使用，但根据整体项目配置和在极高规模下的使用情况，可能会产生标准的Google Cloud Platform费用。