加拿大裁定Grok產生色情深度偽造圖像違法

加拿大隱私專員Philippe Dufresne於6月11日發布調查結果，判定Elon Musk旗下xAI公司的Grok人工智慧聊天機器人在生成未經同意的深度偽造色情圖像方面，違反了加拿大聯邦隱私法。調查發現，今年初僅10天內，全球範圍內透過Grok生成的性化深度偽造圖像就超過180萬張。隱私專員指出，儘管X平台和xAI已採取一些安全措施，但問題遠未解決，用戶仍能利用Grok創建並分享未經同意的色情內容。

此次調查始於2026年1月，與英國和加利福尼亞的相關調查同步進行。加拿大隱私專員辦公室重點審查了相關公司是否在收集、使用和揭露個人資訊以生成深度偽造內容時取得了「有效同意」。Dufresne表示，Grok的圖像生成工具在推出時缺乏充分的安全保障，也未充分考慮對隱私的潛在損害。儘管X和xAI承諾整改，但專員認為「此問題尚未得到令人滿意的解決」。

與此同時，加拿大自由黨政府於6月10日提交了《安全社交媒體法案》，要求線上平台在24小時內刪除包括AI生成深度偽造在內的色情內容，並擬將分享此類圖像的行為定為刑事犯罪。這一裁決進一步加大了社交及AI公司遏制深度偽造問題的壓力。加拿大隱私監管機構強調，技術企業必須從產品設計階段就嵌入隱私保護機制，而非事後補救。

點評：Grok深度偽造事件再次警示，AI生成工具的倫理與法律邊界的缺失正引發全球監管反彈。加拿大此次裁決及後續立法，或為其他地區提供治理範式，但真正的挑戰在於如何平衡技術創新與隱私保護。