Perspective API

Perspective API는 Google 내 부서인 Jigsaw에서 개발한 강력한 개발자 도구로, 더 건강하고 생산적인 온라인 대화를 촉진하는 데 도움을 줍니다. 머신러닝 모델을 활용하여 텍스트를 분석하고 인지된 영향에 따라 점수를 매깁니다. 주요 목표는 플랫폼, 게시자, 커뮤니티 관리자가 유해하거나 모욕적인 언어를 실시간으로 식별하고 완화하여 더 안전하고 환영받는 온라인 환경을 조성할 수 있도록 권한을 부여하는 것입니다. 검토를 더 확장 가능하고 미묘하게 만들어 Perspective API는 중요한 토론에 더 넓은 참여를 장려하는 데 도움이 됩니다.

Perspective API 사용 방법

개발자가 Perspective API를 통합하는 과정은 간단합니다. 일반적으로 다음 단계를 포함합니다:

1. API 키 받기: Perspective API 웹사이트를 방문하여 시작하기 위한 지침을 따릅니다. 이는 보통 Google Cloud 프로젝트를 설정하고 Perspective API를 활성화하여 자격 증명을 얻는 과정을 포함합니다.
2. API 요청하기: 분석하려는 텍스트 콘텐츠를 요청 본문에 담아 API 엔드포인트로 POST 요청을 보냅니다. 인증을 위해 API 키를 포함해야 합니다.
3. 속성 지정하기: 요청에서 API가 점수를 매길 속성을 지정합니다. 사용 가능한 모델에는 유해성(TOXICITY), 심각한 유해성(SEVERE_TOXICITY), 정체성 공격(IDENTITY_ATTACK), 모욕(INSULT), 비속어(PROFANITY), 위협(THREAT)이 포함됩니다.
4. 점수 받기: API는 요청된 각 속성에 대한 확률 점수를 포함하는 JSON 객체를 반환합니다. 이 점수는 0.0(매우 낮음)에서 1.0(매우 높음)까지의 범위로, 텍스트가 해당 속성을 포함할 가능성을 나타냅니다.
5. 로직 구현하기: 이 점수를 애플리케이션의 로직 내에서 사용합니다. 예를 들어, 댓글의 유해성 점수가 0.8을 초과하면 자동으로 사람의 검토를 위해 플래그를 지정하거나, 사용자가 게시하기 전에 실시간 피드백을 제공하거나, 독자가 점수를 기준으로 댓글을 필터링할 수 있도록 할 수 있습니다.

Perspective API의 핵심 기능

• 실시간 텍스트 분석: API는 텍스트 조각에 대한 점수를 거의 즉시 제공하여 댓글 섹션 및 채팅방과 같은 라이브 애플리케이션에 적합합니다.
• 다중 분석 속성: 유해성, 심각한 유해성, 정체성 공격, 모욕, 비속어, 위협 등 다양한 속성에 걸쳐 텍스트 점수를 매길 수 있어 세분화된 검토 정책을 가능하게 합니다.
• 다국어 지원: 모델은 영어, 스페인어, 프랑스어, 독일어, 포르투갈어 등 여러 언어의 텍스트를 이해하고 분석하도록 훈련되었습니다.
• 사용자 정의 가능한 임계값: 플랫폼이 완전히 제어할 수 있습니다. 다양한 조치(예: 플래그 지정, 숨기기 또는 피드백 제공)에 사용할 점수 임계값을 결정하여 도구의 동작을 특정 커뮤니티 가이드라인에 맞출 수 있습니다.
• 오픈 소스 도구 및 연구: Jigsaw는 투명성을 증진하고 대화형 AI 분야의 추가 혁신을 장려하기 위해 학술 연구, 데이터 세트 및 오픈 소스 코드에 대한 액세스를 제공합니다.

Perspective API의 사용 사례

Perspective API는 온라인 담론을 개선하기 위해 다양한 방식으로 적용될 수 있습니다:

• 자동화된 콘텐츠 검토: 잠재적으로 유해한 댓글을 자동으로 플래그 지정하거나 대기열에 넣어 사람 중재자의 검토를 받게 함으로써 작업량을 크게 줄입니다.
• 댓글 작성자를 위한 실시간 피드백: 사용자에게 자신의 댓글이 다른 사람들에게 어떻게 인식될 수 있는지 즉각적인 평가를 제공하여 게시하기 전에 수정할 기회를 줍니다. 이는 대화의 질을 사전에 향상시킬 수 있습니다.
• 댓글 정렬 및 필터링: 독자가 특정 유해성 수준 이상의 댓글을 숨기는 등 댓글 섹션을 정렬하거나 필터링할 수 있도록 하여 사용자가 자신의 읽기 경험을 제어할 수 있도록 합니다.
• 커뮤니티 건강 분석: 커뮤니티 관리자는 시간 경과에 따른 대화 추세를 분석하여 커뮤니티의 전반적인 건강 상태를 이해하고 검토 전략의 영향을 측정할 수 있습니다.
• 언론인 및 공인 보호: 뉴스 기관 및 플랫폼은 API를 사용하여 작가와 공인이 압도적인 양의 온라인 학대로부터 보호받을 수 있도록 할 수 있습니다.

Perspective API의 장점

Perspective API의 주요 장점은 콘텐츠 검토 노력을 효과적으로 확장할 수 있다는 것입니다. Google의 견고한 인프라와 최첨단 머신러닝 연구에 의해 지원됩니다. 이 API는 모든 경우에 적용되는 단일 솔루션이 아닌 유연한 도구로 설계되어 플랫폼이 자체적인 대화 규범을 정의하고 시행할 수 있는 권한을 부여합니다. 유해성을 줄이는 데 도움으로써 더 많은 사람들이 토론에 안전하게 참여하게 되어 사용자 참여도와 유지율을 높일 수 있습니다. 관대한 무료 등급은 개인 개발자부터 대규모 플랫폼까지 모든 규모의 프로젝트에 접근성을 제공합니다.

가격 및 플랜

Perspective API는 관대한 무료 등급으로 제공되어 접근성이 매우 높습니다. 개발자와 플랫폼은 초당 최대 1개의 쿼리(1 QPS)를 무료로 만들 수 있습니다. 이는 많은 중소 규모 애플리케이션, 연구 프로젝트 및 개발 환경에 충분합니다. 더 많은 쿼리가 필요한 애플리케이션의 경우 사용자는 Google Cloud 프로젝트를 통해 제한 증가를 요청할 수 있습니다. API 자체는 무료로 사용할 수 있지만, 전체 프로젝트 구성 및 매우 높은 규모의 사용량에 따라 표준 Google Cloud Platform 비용이 적용될 수 있습니다.