カナダ、Grokによる性的ディープフェイク生成はプライバシー法違反と裁定

カナダのプライバシーコミッショナー、フィリップ・デュフレーヌ（Philippe Dufresne）氏は木曜日、調査結果を公表し、Elon Musk氏の企業xAIが提供するGrok AIチャットボットによって生成された性的なディープフェイク画像が、カナダ連邦プライバシー法に違反していると判断した。調査によると、Grokの画像生成ツールは十分な保護措置がないまま公開され、今年初めのわずか10日間で、世界中のユーザーがこのツールを利用して180万枚以上の同意のない性的ディープフェイク画像を生成。これらの画像はその後、ソーシャルメディアプラットフォームX上で広く拡散された。

プライバシーコミッショナー事務所は、xAIとXが調査後にいくつかの新しい保護措置を導入したものの、問題は解決には程遠いと指摘。デュフレーヌ氏は「彼らはコンプライアンスを約束したが、問題が解決されたとは満足していない」と述べた。カナダ政府は水曜日、「安全なソーシャルメディア法案」を同時に発表。オンラインプラットフォームに対し、AI生成のディープフェイクを含む性的コンテンツを24時間以内に削除するよう義務付け、こうした画像の共有を刑事犯罪とする計画を示した。本件の裁定は、ソーシャルメディアおよびAI企業に対するディープフェイクコンテンツ抑制の規制圧力を強める結果となった。

本調査は今年1月に開始され、英国およびカリフォルニア州での関連調査に続くもの。カナダのプライバシーコミッショナーは、関連企業がディープフェイクコンテンツ作成のために個人情報を収集・使用・開示する際に「有効な同意」を得ていなかったと強調し、これはプライバシー法で禁止されていると指摘。世界的にAI悪用リスクへの関心が高まる中、カナダの今回の立法および執行措置は、他地域にとっての参照モデルとなる可能性がある。