加拿大裁定：Grok 色情深度偽造內容違反隱私法，xAI 與 X 平台遭點名

加拿大聯邦隱私專員 Philippe Dufresne 近日發布調查結果，認定 Elon Musk 旗下人工智慧公司 xAI 所開發的聊天機器人 Grok，其生成的色情深度偽造內容違反了加拿大《個人資訊保護與電子文件法》。專員指出，X 平台與 xAI 允許用戶使用 Grok 製作並傳播非自願的色情圖像，此舉構成對聯邦隱私法的持續侵犯。

調查顯示，今年年初僅 10 天內，全球透過 Grok 生成的色情深度偽造圖像超過 180 萬張。Dufresne 表示，儘管相關企業在調查後增加了部分安全措施，但問題遠未解決，「他們做出了一些合規承諾，但我並不認為該問題已經得到解決」。此次調查始於今年 1 月，同期英國與加利福尼亞也已啟動類似審查。

在裁定發布同日，加拿大自由黨政府提交了《安全社交媒體法案》，要求在線平台必須在 24 小時內移除包含 AI 深度偽造在內的色情內容，並計劃將傳播此類圖像的行為刑事化。這一裁決進一步施壓社交媒體與人工智慧企業，迫使它們從技術和制度層面遏制深度偽造的氾濫。

點評：技術合規已不再是可選項。AI 生成的色情內容正挑戰全球隱私與安全底線，Grok 案或將成為各國強化監管的風向標。