캐나다 프라이버시 커미셔너 필립 뒤프렌(Philippe Dufresne)은 목요일 조사 결과를 발표하며, Elon Musk의 xAI가 운영하는 Grok AI 챗봇이 생성한 성적 딥페이크 이미지가 캐나다 연방 프라이버시법을 위반했다고 판결했습니다. 조사에 따르면, Grok의 이미지 생성 도구는 충분한 보호 조치 없이 출시되었으며, 올해 초 단 10일 동안 전 세계 사용자들이 이 도구를 이용해 180만 장 이상의 동의 없는 성적 딥페이크 이미지를 생성했고, 이는 이후 소셜 미디어 플랫폼 X에 널리 공유되었습니다.
프라이버시 커미셔너 사무소는 xAI와 X가 조사 이후 일부 새로운 보호 조치를 도입했지만, 문제가 완전히 해결되지 않았다고 지적했습니다. 뒤프렌은 "그들은 준수하겠다고 약속했지만, 문제가 해결되었다고 만족하지 않습니다"라고 말했습니다. 캐나다 정부는 수요일 《안전한 소셜 미디어법》을 동시에 발표했으며, 이 법은 온라인 플랫폼이 AI 생성 딥페이크를 포함한 성적 콘텐츠를 24시간 내에 삭제하도록 요구하고, 해당 이미지 공유를 형사 범죄로 규정할 계획입니다. 이번 판결은 소셜 미디어와 AI 기업들이 딥페이크 콘텐츠를 억제하도록 하는 규제 압력을 높였습니다.
