カナダ、Grokによるわいせつなディープフェイク生成はプライバシー法違反と判断

カナダ連邦プライバシー監察官フィリップ・デュフレーヌ（Philippe Dufresne）氏はこのほど、調査結果を公表し、Elon Musk氏が率いるAI企業xAIが開発したチャットボット「Grok」が生成する性的ディープフェイク画像が、カナダの「個人情報保護および電子文書法（PIPEDA）」に違反していると認定した。同監察官は、XプラットフォームとxAIがユーザーによるGrokを使った非同意の性的画像の制作・拡散を許容している点が、連邦プライバシー法への継続的な侵害にあたると指摘した。

調査によると、今年初めのわずか10日間で、Grokを通じて全世界で生成された性的ディープフェイク画像は180万枚以上にのぼる。デュフレーヌ氏は、調査後に同社が一部のセキュリティ対策を追加したものの、問題は解決にはほど遠いとし、「いくつかのコンプライアンスの約束はなされたが、問題が解決されたとは考えていない」と述べた。今回の調査は今年1月に開始され、同時期に英国とカリフォルニア州でも同様の審査が始まっている。

裁定発表と同じ日、カナダ自由党政権は『安全なソーシャルメディア法案』を提出し、オンラインプラットフォームに対しAIによるディープフェイクを含む性的コンテンツを24時間以内に削除することを義務付け、こうした画像の拡散を刑事罰の対象とする方針を示した。この裁定は、ソーシャルメディア企業やAI企業に対し、技術面・制度面からディープフェイクの蔓延を抑制するよう一段の圧力をかけるものとなっている。

総評：技術面でのコンプライアンスはもはや選択肢ではない。AIが生成する性的コンテンツは、世界中のプライバシーと安全の限界を問うものであり、Grok事件は各国が規制を強化する上での指標となる可能性が高い。