Perspective API

Perspective API est un puissant outil de développement créé par Jigsaw, une unité de Google, conçu pour aider à favoriser des conversations en ligne plus saines et plus productives. Il utilise des modèles d'apprentissage automatique pour analyser le texte et lui attribuer un score en fonction de son impact perçu. L'objectif principal est de donner aux plateformes, aux éditeurs et aux gestionnaires de communauté les moyens d'identifier et d'atténuer le langage toxique ou abusif en temps réel, créant ainsi des environnements en ligne plus sûrs et plus accueillants. En rendant la modération plus évolutive et nuancée, Perspective API contribue à encourager une participation plus large aux discussions importantes.

Comment utiliser Perspective API

L'intégration de Perspective API est simple pour les développeurs. Le processus implique généralement les étapes suivantes :

1. Obtenir une clé API : Commencez par visiter le site web de Perspective API et suivez les instructions pour démarrer. Cela implique généralement de configurer un projet Google Cloud et d'activer l'API Perspective pour obtenir des identifiants.
2. Faire une requête API : Envoyez une requête POST au point de terminaison de l'API avec le contenu textuel que vous souhaitez analyser dans le corps de la requête. Vous devez inclure votre clé API pour l'authentification.
3. Spécifier les attributs : Dans votre requête, vous spécifiez les attributs pour lesquels vous souhaitez que l'API calcule un score. Les modèles disponibles incluent TOXICITÉ, TOXICITÉ SÉVÈRE, ATTAQUE D'IDENTITÉ, INSULTE, PROPOS OBSCÈNES et MENACE.
4. Recevoir les scores : L'API renvoie un objet JSON contenant un score de probabilité pour chaque attribut demandé. Ces scores vont de 0,0 (très improbable) à 1,0 (très probable) pour représenter la probabilité perçue que le texte contienne cet attribut.
5. Implémenter la logique : Utilisez ces scores dans la logique de votre application. Par exemple, vous pourriez automatiquement signaler un commentaire pour examen humain si son score de TOXICITÉ dépasse 0,8, fournir un retour en temps réel à un utilisateur avant qu'il ne publie, ou permettre aux lecteurs de filtrer les commentaires en fonction de leurs scores.

Fonctionnalités principales de Perspective API

• Analyse de texte en temps réel : L'API fournit des scores pour des extraits de texte quasi instantanément, ce qui la rend adaptée aux applications en direct comme les sections de commentaires et les salons de discussion.
• Multiples attributs d'analyse : Elle peut noter le texte sur une gamme d'attributs, y compris la Toxicité, la Toxicité Sévère, l'Attaque d'Identité, l'Insulte, les Propos Obscènes, la Menace, et plus encore, permettant des politiques de modération granulaires.
• Support multilingue : Les modèles sont entraînés pour comprendre et analyser le texte dans plusieurs langues, dont l'anglais, l'espagnol, le français, l'allemand, le portugais, et d'autres.
• Seuils personnalisables : Les plateformes ont un contrôle total. Elles peuvent décider quels seuils de score utiliser pour différentes actions (par exemple, signaler, masquer ou fournir un retour), alignant le comportement de l'outil sur leurs propres directives communautaires.
• Outils et recherches open source : Jigsaw donne accès à des recherches universitaires, des ensembles de données et du code open source pour promouvoir la transparence et encourager l'innovation dans le domaine de l'IA conversationnelle.

Cas d'utilisation pour Perspective API

Perspective API peut être appliquée de diverses manières pour améliorer le discours en ligne :

• Modération de contenu automatisée : Signalez ou mettez automatiquement en file d'attente les commentaires potentiellement nuisibles pour examen par des modérateurs humains, réduisant considérablement leur charge de travail.
• Retour en temps réel pour les commentateurs : Fournissez aux utilisateurs une évaluation instantanée de la manière dont leur commentaire pourrait être perçu par les autres, leur donnant une chance de le réviser avant de le publier. Cela peut améliorer de manière proactive la qualité des conversations.
• Tri et filtrage des commentaires : Permettez aux lecteurs de trier ou de filtrer les sections de commentaires, par exemple en masquant les commentaires dépassant un certain niveau de toxicité, donnant ainsi aux utilisateurs le contrôle de leur propre expérience de lecture.
• Analyse de la santé de la communauté : Les gestionnaires de communauté peuvent analyser les tendances des conversations au fil du temps pour comprendre la santé globale de leur communauté и mesurer l'impact de leurs stratégies de modération.
• Protection des journalistes et des personnalités publiques : Les organisations de presse et les plateformes peuvent utiliser l'API pour protéger leurs rédacteurs et personnalités publiques de volumes écrasants d'abus en ligne.

Avantages de Perspective API

Le principal avantage de Perspective API est sa capacité à faire évoluer efficacement les efforts de modération de contenu. Elle est soutenue par l'infrastructure robuste de Google et ses recherches de pointe en apprentissage automatique. L'API est conçue pour être un outil flexible, et non une solution universelle, donnant aux plateformes le pouvoir de définir et d'appliquer leurs propres normes de conversation. En aidant à réduire la toxicité, elle peut entraîner un engagement et une rétention des utilisateurs plus élevés, car plus de gens se sentent en sécurité pour participer aux discussions. Son généreux niveau gratuit la rend accessible aux projets de toutes tailles, des développeurs individuels aux grandes plateformes.

Tarification et plans

Perspective API est proposée avec un généreux niveau gratuit, ce qui la rend très accessible. Les développeurs et les plateformes peuvent effectuer jusqu'à une requête par seconde (QPS) gratuitement. C'est suffisant pour de nombreuses applications de petite et moyenne taille, des projets de recherche et des environnements de développement. Pour les applications nécessitant un volume de requêtes plus élevé, les utilisateurs peuvent demander une augmentation des limites via leur projet Google Cloud. Bien que l'API elle-même reste gratuite, des coûts standard de Google Cloud Platform peuvent s'appliquer en fonction de la configuration globale du projet et de l'utilisation à très grande échelle.