Grokによる性的ディープフェイク生成、カナダプライバシー法違反と裁定

カナダのプライバシーコミッショナー、Philippe Dufresne氏は調査結果を発表し、Elon Musk氏が率いるGrok AIチャットボットがユーザーによる非同意のディープフェイク画像の作成・拡散を許容していることが、同国の連邦プライバシー法に違反すると結論づけた。調査によると、2026年初頭のわずか10日間で、Grokを通じて生成された性的ディープフェイク画像は全世界で180万枚を超えたという。XプラットフォームとxAIは新たな安全対策を導入したものの、Dufresne氏は「問題は解決にはほど遠い」と述べ、これらの企業が依然として違反状態にあると指摘した。

この裁定は、英国およびカリフォルニア州での関連調査を受けて行われた。カナダのプライバシーコミッショナーは、Grokによる画像生成が一時約50%減少したものの、「依然として大量の違反コンテンツが存在する」と強調。一方、カナダの自由党政権は水曜日に「安全なソーシャルメディア法案」を発表し、オンラインプラットフォームに対し、AIディープフェイクを含むわいせつコンテンツを24時間以内に削除するよう義務付け、さらにこうした画像の共有を刑事犯罪とする方針を示した。Dufresne氏は、XとxAIが部分的なコンプライアンスを約束したものの、規制当局に問題が完全に解決されたと確信させるには至っていないと述べている。

AI生成による有害コンテンツに対する世界的な規制が厳しくなる中、カナダのこの事例は象徴的なケースとなる可能性がある。業界関係者は、テクノロジープラットフォームは事後的な削除メカニズムに頼るのではなく、アルゴリズム設計の段階で非同意のディープフェイク生成を防ぐ必要があると指摘。今後、他の国々がカナダのモデルを参考に、立法と執行の両面からAI企業にさらなるコンテンツガバナンス責任を課すことが予想される。