전문 도구 해당 분야 최고 1 개 논란의 여지가 있는 기술 AI 도구

논란의 여지가 있는 AI 기술이란 그 응용이 중대한 윤리적, 사회적 또는 법적 우려를 불러일으키는 AI 도구 및 시스템을 말합니다. 이는 신경망과 같은 기반 기술 자체에 관한 것이 아니라 그 특정 용도에 관한 것입니다. 주요 특징으로는 이중 사용(유익하고 해로운) 가능성, 사생활이나 자율성과 같은 인권에 미치는 영향, 기만적인 합성 미디어를 만들거나 중대한 자율적 결정을 내릴 수 있는 능력 등이 있습니다.

이러한 도구를 윤리적으로 사용하려면 적극적이고 엄격한 접근 방식이 필요합니다. 주요 원칙은 다음과 같습니다:

• 목적 제한: 도구를 사용하는 데 명확하고 합법적이며 유익한 목적을 가져야 합니다.
• 투명성: 특히 합성 미디어를 사용하거나 개인의 권리에 영향을 미치는 경우 AI 사용에 대해 투명해야 합니다. 콘텐츠가 AI에 의해 생성되었음을 공개해야 합니다.
• 동의: 음성 복제나 이미지 합성과 같이 직접적인 영향을 받을 수 있는 개인으로부터 정보에 입각한 동의를 얻어야 합니다.
• 피해 최소화: 허위 정보의 확산이나 사생활 침해와 같은 잠재적인 부정적 영향을 적극적으로 평가하고 완화해야 합니다.
• 법률 준수: 데이터 프라이버시, 저작권 및 명예훼손에 관한 모든 국내 및 국제 법률을 엄격히 준수해야 합니다.

주요 차이점은 핵심 기술보다는 애플리케이션이 윤리적 경계에 얼마나 근접해 있는지와 상당한 사회적 영향을 미칠 가능성에 있습니다. 문법 검사기와 같은 일반적인 AI 도구는 잘 정의되고 널리 받아들여지며 위험이 낮은 목적을 가지고 있습니다. 반면, 딥페이크 생성기와 같은 논란의 여지가 있는 AI 도구는 유사한 기본 기술(예: GAN)을 사용하지만 오용, 기만, 사회적 혼란의 가능성이 높은 작업에 적용합니다. 논란은 알고리즘 자체가 아니라 그 응용에서 비롯됩니다.

논란의 여지가 있는 AI 애플리케이션의 예는 여러 영역에 걸쳐 있습니다:

• 딥페이크 생성기: 현실적이지만 가짜인 비디오나 오디오를 만드는 데 사용되며, 풍자와 악의적인 사칭의 가능성이 모두 있습니다.
• 예측 치안 알고리즘: 범죄 발생 예상 지역을 예측하는 시스템으로, 법 집행 데이터에 존재하는 편견을 강화할 수 있다는 비판을 받아왔습니다.
• 사회적 점수 시스템: 사회적 행동을 기반으로 평판이나 신용 점수를 부여하는 AI로, 감시와 사회 통제에 대한 우려를 낳고 있습니다.
• 자율 무기 시스템: '킬러 로봇'으로도 알려져 있으며, 프로그래밍된 제약 조건에 따라 독립적으로 목표물을 탐색하고 교전할 수 있는 무기입니다.
• 감정 인식 AI: 얼굴 표정이나 목소리 톤으로 인간의 감정을 감지한다고 주장하는 기술로, 과학적 타당성과 채용이나 감시에서의 오용 가능성에 대한 비판에 직면해 있습니다.

논란의 여지가 있는 AI의 사용자 기반은 다양하며 특정 도구에 따라 다릅니다. 여기에는 다음이 포함됩니다:

• 연구원 및 학자: 종종 통제된 환경에서 AI의 능력과 사회적 영향을 연구합니다.
• 사이버 보안 전문가: 기업 방어를 테스트하기 위한 '레드팀' 훈련에 음성 복제기와 같은 도구를 사용합니다.
• 예술가 및 창작자: 합성 미디어를 사용하여 새로운 표현 형식과 논평을 탐구합니다.
• 언론인 및 활동가: 윤리적 경계를 탐색하면서 숨겨진 정보를 밝히기 위해 데이터 분석 도구를 사용합니다.
• 국가 및 기업 행위자: 보안 또는 상업적 목적으로 감시 및 예측 기술을 활용하며, 이는 종종 대중적 논란의 주요 원인이 됩니다.

이러한 도구 중 일부는 접근성이 높아 악의적인 행위자가 허위 정보, 사기 또는 괴롭힘에 오용할 수 있음을 의미하기도 합니다.