Perspective API

Perspective API es una potente herramienta para desarrolladores creada por Jigsaw, una unidad de Google, diseñada para ayudar a fomentar conversaciones en línea más saludables y productivas. Utiliza modelos de aprendizaje automático para analizar texto y calificarlo según su impacto percibido. El objetivo principal es capacitar a las plataformas, editores y gestores de comunidades para identificar y mitigar el lenguaje tóxico o abusivo en tiempo real, creando así entornos en línea más seguros y acogedores. Al hacer la moderación más escalable y matizada, Perspective API ayuda a fomentar una participación más amplia en debates importantes.

Cómo usar Perspective API

Integrar Perspective API es un proceso sencillo para los desarrolladores. Generalmente, implica los siguientes pasos:

1. Obtener una clave de API: Comience visitando el sitio web de Perspective API y siguiendo las instrucciones para empezar. Esto suele implicar la configuración de un Proyecto de Google Cloud y la habilitación de la API de Perspective para obtener credenciales.
2. Realizar una solicitud a la API: Envíe una solicitud POST al punto final de la API con el contenido de texto que desea analizar en el cuerpo de la solicitud. Debe incluir su clave de API para la autenticación.
3. Especificar atributos: En su solicitud, especifique qué atributos desea que la API califique. Los modelos disponibles incluyen TOXICIDAD, TOXICIDAD SEVERA, ATAQUE A LA IDENTIDAD, INSULTO, LENGUAJE OBSCENO y AMENAZA.
4. Recibir puntuaciones: La API devuelve un objeto JSON que contiene una puntuación de probabilidad para cada atributo solicitado. Estas puntuaciones van de 0.0 (muy improbable) a 1.0 (muy probable) para representar la probabilidad percibida de que el texto contenga ese atributo.
5. Implementar la lógica: Utilice estas puntuaciones dentro de la lógica de su aplicación. Por ejemplo, podría marcar automáticamente un comentario para revisión humana si su puntuación de TOXICIDAD supera 0.8, proporcionar retroalimentación en tiempo real a un usuario antes de que publique, o permitir a los lectores filtrar comentarios según sus puntuaciones.

Características principales de Perspective API

• Análisis de texto en tiempo real: La API proporciona puntuaciones para fragmentos de texto casi al instante, lo que la hace adecuada para aplicaciones en vivo como secciones de comentarios y salas de chat.
• Múltiples atributos de análisis: Puede calificar texto en una variedad de atributos, incluyendo Toxicidad, Toxicidad Severa, Ataque a la Identidad, Insulto, Lenguaje Obsceno, Amenaza y más, permitiendo políticas de moderación granulares.
• Soporte multilingüe: Los modelos están entrenados para entender y analizar texto en múltiples idiomas, incluyendo inglés, español, francés, alemán, portugués y otros.
• Umbrales personalizables: Las plataformas tienen el control total. Pueden decidir qué umbrales de puntuación usar para diferentes acciones (por ejemplo, marcar, ocultar o proporcionar retroalimentación), alineando el comportamiento de la herramienta con sus directrices comunitarias específicas.
• Herramientas e investigación de código abierto: Jigsaw proporciona acceso a investigación académica, conjuntos de datos y código de fuente abierta para promover la transparencia y fomentar una mayor innovación en el campo de la IA conversacional.

Casos de uso para Perspective API

Perspective API se puede aplicar de varias maneras para mejorar el discurso en línea:

• Moderación de contenido automatizada: Marque o ponga en cola automáticamente comentarios potencialmente dañinos para su revisión por moderadores humanos, reduciendo significativamente su carga de trabajo.
• Retroalimentación en tiempo real para los comentaristas: Proporcione a los usuarios una evaluación instantánea de cómo podría ser percibido su comentario por otros, dándoles la oportunidad de revisarlo antes de publicarlo. Esto puede mejorar proactivamente la calidad de las conversaciones.
• Clasificación y filtrado de comentarios: Permita a los lectores clasificar o filtrar secciones de comentarios, por ejemplo, ocultando comentarios por encima de un cierto nivel de toxicidad, capacitando a los usuarios para controlar su propia experiencia de lectura.
• Análisis de la salud de la comunidad: Los gestores de comunidades pueden analizar las tendencias de las conversaciones a lo largo del tiempo para comprender la salud general de su comunidad y medir el impacto de sus estrategias de moderación.
• Protección de periodistas y figuras públicas: Las organizaciones de noticias y las plataformas pueden usar la API para proteger a sus escritores y figuras públicas de volúmenes abrumadores de abuso en línea.

Ventajas de Perspective API

La principal ventaja de Perspective API es su capacidad para escalar los esfuerzos de moderación de contenido de manera efectiva. Está respaldada por la robusta infraestructura de Google y la investigación de vanguardia en aprendizaje automático. La API está diseñada para ser una herramienta flexible, no una solución única para todos, dando a las plataformas el poder de definir y hacer cumplir sus propias normas de conversación. Al ayudar a reducir la toxicidad, puede conducir a un mayor compromiso y retención de usuarios, ya que más personas se sienten seguras para participar en los debates. Su generoso nivel gratuito la hace accesible para proyectos de todos los tamaños, desde desarrolladores individuales hasta plataformas a gran escala.

Precios y planes

Perspective API se ofrece con un generoso nivel gratuito, lo que la hace muy accesible. Los desarrolladores y las plataformas pueden realizar hasta una consulta por segundo (QPS) de forma gratuita. Esto es suficiente para muchas aplicaciones de tamaño pequeño a mediano, proyectos de investigación y entornos de desarrollo. Para aplicaciones que requieren un mayor volumen de consultas, los usuarios pueden solicitar límites aumentados a través de su Proyecto de Google Cloud. Aunque la API en sí misma sigue siendo gratuita, pueden aplicarse costos estándar de Google Cloud Platform dependiendo de la configuración general del proyecto y el uso a escalas muy altas.