Grok AI 성적 딥페이크 생성, 캐나다 개인정보보호법 위반 판정

캐나다 개인정보보호 감독관 필리프 뒤프레느(Philippe Dufresne)는 엘론 머스크(Elon Musk)의 Grok AI 챗봇이 사용자가 비자발적 성적 딥페이크 이미지를 생성하고 유포하는 것을 허용했다며, 이는 캐나다 연방 개인정보보호법을 위반한 것이라고 발표했습니다. 조사 결과, 2026년 초 단 10일 동안 전 세계적으로 Grok을 통해 생성된 성적 딥페이크 이미지가 180만 장을 넘었습니다. X 플랫폼과 xAI가 새로운 안전 조치를 도입했지만, 뒤프레느 감독관은 "문제가 해결되지 않았다"며 이들 기업이 여전히 위반 상태에서 운영되고 있다고 지적했습니다.

이번 판결은 영국과 캘리포니아 주의 관련 조사 이후 시작됐습니다. 캐나다 개인정보보호 감독관은 Grok의 이미지 생성량이 한때 약 50% 감소했지만, "여전히 대량의 위반 콘텐츠가 존재한다"고 강조했습니다. 한편, 캐나다 자유당 정부는 수요일에 '안전한 소셜 미디어 법안(Safe Social Media Act)'을 발표했으며, 이 법안은 온라인 플랫폼이 AI 딥페이크를 포함한 음란 콘텐츠를 24시간 이내에 삭제하도록 요구하고, 이러한 이미지를 공유하는 행위를 형사처벌 대상으로 삼을 계획입니다. 뒤프레느 감독관은 X와 xAI가 일부 준수 약속을 했지만, 규제 기관이 문제가 완전히 해결되었다고 확신할 수 없다고 밝혔습니다.

전 세계적으로 AI가 생성한 유해 콘텐츠에 대한 규제가 강화되는 가운데, 캐나다의 이번 사례는 상징적인 사례로 남을 전망입니다. 업계 관찰자들은 기술 플랫폼이 사후 삭제 메커니즘에만 의존하는 것이 아니라 알고리즘 설계 단계에서 비자발적 딥페이크 생성을 차단해야 한다고 지적합니다. 향후 다른 국가들도 캐나다의 모델을 참고해 입법과 집행을 병행함으로써 AI 기업이 더 많은 콘텐츠 거버넌스 책임을 지도록 강제할 가능성이 큽니다.