Grok がカナダのプライバシー法違反？非同意の性的ディープフェイク画像生成で当局が裁定

カナダのプライバシー監視機関であるフィリップ・デュフレーヌ委員長は現地時間木曜日、Elon Musk が率いるAIチャットボットGrokが非同意の性的ディープフェイク画像を生成した行為は、カナダ連邦プライバシー法に違反するとの裁定を発表した。調査によると、今年初めのわずか10日間で、世界中のユーザーがGrokを通じて180万枚以上のこうした画像を生成していた。xAI と X プラットフォームは既に新たな安全対策を導入しているが、デュフレーヌ氏は問題が解決には程遠いと指摘する。

デュフレーヌ氏は声明で次のように強調した。「彼らは確かにコンプライアンスを約束しているが、今回のケースにおいて問題が解決されたとは私には納得できない。」この調査は今年1月に開始され、英国とカリフォルニア州でも同様の調査がすでに行われている。一方、カナダ自由党政権は今週水曜日、オンラインプラットフォームに対し、AI生成のディープフェイクを含む性的コンテンツを24時間以内に削除することを義務付け、同画像の共有を刑事犯罪とする方向で推進する「安全なソーシャルメディア法案」を発表した。

分析によると、今回の裁定はソーシャルメディアおよびAI企業へのコンプライアンス圧力をさらに強めるものだ。カナダでの立法が加速する中、AIによって生成される有害コンテンツに対する世界的な規制強化が進んでいる。Grokの事例は、テクノロジー企業が生成系AI機能を展開する際、効果的なユーザー行動管理システムを優先して確立しなければ、継続的な法的・世論リスクに直面することを改めて浮き彫りにしている。