Perspective API

A Perspective API é uma poderosa ferramenta de desenvolvedor criada pela Jigsaw, uma unidade do Google, projetada para ajudar a promover conversas online mais saudáveis e produtivas. Ela utiliza modelos de aprendizado de máquina para analisar texto e pontuá-lo com base em seu impacto percebido. O objetivo principal é capacitar plataformas, editores e gerentes de comunidade a identificar e mitigar linguagem tóxica ou abusiva em tempo real, criando assim ambientes online mais seguros e acolhedores. Ao tornar a moderação mais escalável e sutil, a Perspective API ajuda a incentivar uma participação mais ampla em discussões importantes.

Como usar a Perspective API

Integrar a Perspective API é um processo direto para desenvolvedores. O processo geralmente envolve os seguintes passos:

1. Obter uma Chave de API: Comece visitando o site da Perspective API e seguindo as instruções para começar. Isso geralmente envolve a configuração de um Projeto Google Cloud e a ativação da Perspective API para obter credenciais.
2. Fazer uma Requisição à API: Envie uma requisição POST para o endpoint da API com o conteúdo de texto que você deseja analisar no corpo da requisição. Você deve incluir sua chave de API para autenticação.
3. Especificar Atributos: Em sua requisição, você especifica quais atributos deseja que a API pontue. Os modelos disponíveis incluem TOXICIDADE, TOXICIDADE SEVERA, ATAQUE DE IDENTIDADE, INSULTO, PROFANIDADE e AMEAÇA.
4. Receber Pontuações: A API retorna um objeto JSON contendo uma pontuação de probabilidade para cada atributo solicitado. Essas pontuações variam de 0.0 (muito improvável) a 1.0 (muito provável) para representar a probabilidade percebida de que o texto contenha esse atributo.
5. Implementar Lógica: Use essas pontuações na lógica de sua aplicação. Por exemplo, você poderia sinalizar automaticamente um comentário para revisão humana se sua pontuação de TOXICIDADE exceder 0.8, fornecer feedback em tempo real a um usuário antes que ele poste, ou permitir que os leitores filtrem comentários com base em suas pontuações.

Recursos principais da Perspective API

• Análise de Texto em Tempo Real: A API fornece pontuações para trechos de texto quase instantaneamente, tornando-a adequada para aplicações ao vivo como seções de comentários e salas de bate-papo.
• Múltiplos Atributos de Análise: Pode pontuar texto em uma variedade de atributos, incluindo Toxicidade, Toxicidade Severa, Ataque de Identidade, Insulto, Profanidade, Ameaça e mais, permitindo políticas de moderação granulares.
• Suporte a Vários Idiomas: Os modelos são treinados para entender e analisar texto em vários idiomas, incluindo inglês, espanhol, francês, alemão, português e outros.
• Limiares Personalizáveis: As plataformas têm controle total. Elas podem decidir quais limiares de pontuação usar para diferentes ações (por exemplo, sinalizar, ocultar ou fornecer feedback), alinhando o comportamento da ferramenta com suas diretrizes de comunidade específicas.
• Ferramentas e Pesquisas de Código Aberto: A Jigsaw fornece acesso a pesquisas acadêmicas, conjuntos de dados e código-fonte aberto para promover a transparência e incentivar mais inovação no campo da IA conversacional.

Casos de uso para a Perspective API

A Perspective API pode ser aplicada de várias maneiras para melhorar o discurso online:

• Moderação de Conteúdo Automatizada: Sinalize ou coloque em fila automaticamente comentários potencialmente prejudiciais para revisão por moderadores humanos, reduzindo significativamente sua carga de trabalho.
• Feedback em Tempo Real para Comentaristas: Forneça aos usuários uma avaliação instantânea de como seu comentário pode ser percebido por outros, dando-lhes a chance de revisá-lo antes de postar. Isso pode melhorar proativamente a qualidade das conversas.
• Classificação e Filtragem de Comentários: Permita que os leitores classifiquem ou filtrem seções de comentários, por exemplo, ocultando comentários acima de um certo nível de toxicidade, capacitando os usuários a controlar sua própria experiência de leitura.
• Análise da Saúde da Comunidade: Gerentes de comunidade podem analisar tendências de conversas ao longo do tempo para entender a saúde geral de sua comunidade e medir o impacto de suas estratégias de moderação.
• Proteção de Jornalistas e Figuras Públicas: Organizações de notícias e plataformas podem usar a API para proteger seus escritores e figuras públicas de volumes esmagadores de abuso online.

Vantagens da Perspective API

A principal vantagem da Perspective API é sua capacidade de escalar os esforços de moderação de conteúdo de forma eficaz. Ela é apoiada pela robusta infraestrutura do Google и pela pesquisa de ponta em aprendizado de máquina. A API foi projetada para ser uma ferramenta flexível, não uma solução única, dando às plataformas o poder de definir e aplicar suas próprias normas de conversação. Ao ajudar a reduzir a toxicidade, pode levar a um maior engajamento e retenção de usuários, pois mais pessoas se sentem seguras para participar das discussões. Seu generoso nível gratuito a torna acessível para projetos de todos os tamanhos, desde desenvolvedores individuais até plataformas de grande escala.

Preços e planos

A Perspective API é oferecida com um generoso nível gratuito, tornando-a altamente acessível. Desenvolvedores e plataformas podem fazer até uma consulta por segundo (QPS) gratuitamente. Isso é suficiente para muitas aplicações de pequeno a médio porte, projetos de pesquisa e ambientes de desenvolvimento. Para aplicações que requerem um volume maior de consultas, os usuários podem solicitar limites aumentados através de seu Projeto Google Cloud. Embora a API em si permaneça gratuita, custos padrão da Google Cloud Platform podem ser aplicados dependendo da configuração geral do projeto e do uso em escalas muito altas.