캐나다 개인정보보호 위원 필립 뒤프레센(Philip Dufresne)은 6월 11일 조사 결과를 발표하며, 머스크의 xAI가 개발한 Grok 챗봇과 소셜미디어 플랫폼 X(구 트위터)가 캐나다 연방 프라이버시법을 위반했다고 판결했다. 조사에 따르면 올해 초 사용자들은 단 10일 만에 전 세계적으로 Grok을 활용해 180만 장 이상의 비자발적 성적 딥페이크 이미지를 생성했다. 위원은 조사 이후 관련 측이 일부 안전 조치를 도입했지만 문제가 완전히 해결되지 않았으며, Grok의 이미지 생성 도구는 출시 당시 충분한 보호 장치가 부족했고 개인정보에 대한 잠재적 위험을 충분히 고려하지 않았다고 지적했다.
이번 조사는 영국과 캘리포니아에서 앞서 진행된 유사한 조사에 따른 것이다. 뒤프레센 위원은 X와 xAI가 규정 준수를 약속했지만 아직 요구사항을 충족하지 못했다고 밝혔다. 그는 이번 사건이 캐나다 프라이버시법이 규제 기관에 과태료 부과 및 구속력 있는 명령을 내릴 권한을 부여하기 위해 시급히 개정되어야 함을 보여준다고 강조했다. 한편 캐나다 자유당 정부는 수요일 <안전한 소셜미디어 법안>(Safe Social Media Act)을 제출했으며, 플랫폼은 24시간 이내에 AI 생성 콘텐츠를 포함한 성인물을 삭제해야 하며, 이러한 딥페이크 이미지 공유를 범죄화할 계획이다.
