캐나다, Grok의 음란 딥페이크가 프라이버시법 위반 판정

캐나다 연방 프라이버시 위원 필립 뒤프렌(Philippe Dufresne)이 최근 조사 결과를 발표하며, 엘론 머스크의 AI 기업 xAI가 개발한 챗봇 Grok이 생성한 음란 딥페이크 콘텐츠가 캐나다 개인정보 보호 및 전자문서법(PIPEDA)을 위반했다고 판정했다. 위원은 X 플랫폼과 xAI가 사용자가 Grok을 이용해 비자발적인 음란 이미지를 만들고 퍼뜨리는 것을 허용했으며, 이는 연방 프라이버시법에 대한 지속적인 침해라고 지적했다.

조사에 따르면 올해 초 단 10일 동안 전 세계에서 Grok을 통해 생성된 음란 딥페이크 이미지는 180만 장을 초과했다. 뒤프렌 위원은 조사 이후 관련 기업이 일부 보안 조치를 추가했지만 문제가 해결되지 않았다며 "그들은 일부 규정 준수 약속을 했지만, 해당 문제가 해결되었다고 생각하지 않는다"고 말했다. 이번 조사는 올해 1월에 시작되었으며, 같은 기간 영국과 캘리포니아에서도 유사한 조사가 착수되었다.

판정이 발표된 같은 날, 캐나다 자유당 정부는 안전한 소셜 미디어 법안(Safe Social Media Act)을 제출했다. 이 법안은 온라인 플랫폼이 AI 딥페이크를 포함한 음란 콘텐츠를 24시간 이내에 삭제하도록 의무화하고, 이러한 이미지를 유포하는 행위를 범죄화할 계획이다. 이번 판정은 소셜 미디어와 AI 기업에 추가 압박을 가하며, 기술적·제도적 차원에서 딥페이크 확산을 억제하도록 요구하고 있다.

평가: 기술 규정 준수는 더 이상 선택 사항이 아니다. AI가 생성한 음란 콘텐츠는 전 세계 프라이버시와 안전의 기준을 시험하고 있으며, Grok 사건은 각국이 규제를 강화하는 신호탄이 될 수 있다.