애플, 성적 딥페이크 생성 Grok 앱 앱스토어 제거 위협

테크 매체 9to5Mac에 따르면, Apple이 최근 인공지능 챗봇 Grok을 App Store에서 제거하겠다고 비공개적으로 위협한 사실이 드러났습니다. 이는 해당 앱이 성적 딥페이크 콘텐츠를 생성하는 문제와 관련이 있습니다. 이 소식은 NBC News가 입수한 Apple의 미국 상원의원에게 보낸 서신에서 비롯되었으며, 서신에서는 올해 초 Grok이 생성한 성적 딥페이크 콘텐츠의 범람 문제를 어떻게 배후에서 처리했는지 상세히 설명했습니다.

올해 초, 사용자들이 Grok이 사진 속 인물, 특히 여성과 미성년자의 옷을 벗기는 요청에 쉽게 응답할 수 있다는 사실을 발견하며 널리 논란이 일었습니다. Apple은 당시 Grok과 그 모회사 X 앱을 제거하라는 압력을 받았으나 공개적으로 침묵을 지켰습니다. 그러나 NBC News 보고서에 따르면, Apple은 배후에서 X와 Grok이 자사 앱스토어 가이드라인을 위반했다고 판단했으며, 비공개적으로 Grok 제거를 위협했습니다. Apple은 불만 사항을 접수하고 미디어 보도를 확인한 후, X와 Grok 개발팀에 연락해 콘텐츠 심사 개선 계획을 수립할 것을 요구했습니다.

이 사건은 AI 윤리와 콘텐츠 규제 측면에서 기술 플랫폼이 직면한 과제를 부각시킵니다. 생성형 AI의 보급이 확대됨에 따라, 오용을 방지하고 사용자, 특히 취약 계층을 보호하는 방법이 산업의 핵심 이슈가 될 것입니다. Apple의 비공개 행동은 앱스토어 심사 메커니즘이 신흥 위협에 대응할 때 여전히 투명성과 집행력을 강화할 필요가 있음을 시사합니다.