加拿大裁定Grok生成色情深伪违反隐私法

加拿大隐私专员菲利普·迪弗雷纳（Philippe Dufresne）本周四公布调查结果，裁定埃隆·马斯克旗下xAI公司的Grok人工智能聊天机器人生成的性化深度伪造图像违反了加拿大联邦隐私法。调查发现，Grok的图像生成工具在缺乏充分保障措施的情况下上线，今年初仅10天内全球用户便利用该工具生成了超过180万张未经同意的性化深伪图片，这些内容随后被广泛分享至社交媒体平台X。

隐私专员办公室指出，尽管xAI和X在调查后推出了一些新保障措施，但问题远未解决。迪弗雷纳表示：“他们承诺会合规，但我并不满意该问题已得到解决。”加拿大政府本周三同步推出了《安全社交媒体法案》，要求在线平台必须在24小时内删除包含人工智能生成深伪在内的色情内容，并计划将分享此类图像的行为定为刑事犯罪。此项裁决增加了对社交媒体和人工智能公司遏制深伪内容的监管压力。

这场调查始于今年1月，紧随英国和加利福尼亚州的相关调查之后。加拿大隐私专员强调，相关公司在收集、使用和披露个人信息以创建深伪内容时未获得“有效同意”，这是隐私法所禁止的。随着全球对AI滥用风险关注升温，加拿大此番立法与执法行动或将为其他地区提供参照范本。