加拿大裁定Grok生成色情深偽違反隱私法

加拿大隱私專員菲利普·迪弗雷納（Philippe Dufresne）本週四公佈調查結果，裁定Elon Musk旗下xAI公司的Grok人工智能聊天機器人生成的性化深度偽造圖像違反了加拿大聯邦隱私法。調查發現，Grok的圖像生成工具在缺乏充分保障措施的情況下上線，今年初僅10天內全球用戶便利用該工具生成了超過180萬張未經同意的性化深偽圖片，這些內容隨後被廣泛分享至社交媒體平台X。

隱私專員辦公室指出，儘管xAI和X在調查後推出了一些新保障措施，但問題遠未解決。迪弗雷納表示：「他們承諾會合規，但我並不滿意該問題已得到解決。」加拿大政府本週三同步推出了《安全社交媒體法案》，要求在線平台必須在24小時內刪除包含人工智能生成深偽在內的色情內容，並計劃將分享此類圖像的行為定為刑事犯罪。此項裁決增加了對社交媒體和人工智能公司遏制深偽內容的監管壓力。

這場調查始於今年1月，緊隨英國和加利福尼亞州的相關調查之後。加拿大隱私專員強調，相關公司在收集、使用和披露個人信息以創建深偽內容時未獲得「有效同意」，這是隱私法所禁止的。隨著全球對AI濫用風險關注升溫，加拿大此番立法與執法行動或將為其他地區提供參照範本。