Ủy viên riêng tư Canada Philippe Dufresne hôm thứ Năm công bố kết quả điều tra, xác định công cụ AI Grok của xAI – công ty do Elon Musk sở hữu – đã tạo ra hình ảnh khiêu dâm giả mạo (deepfake) vi phạm luật riêng tư liên bang Canada. Cuộc điều tra phát hiện công cụ tạo ảnh của Grok được ra mắt thiếu các biện pháp bảo vệ đầy đủ. Chỉ trong 10 ngày đầu năm nay, người dùng toàn cầu đã sử dụng công cụ này để tạo ra hơn 1,8 triệu hình ảnh khiêu dâm giả mạo không được đồng thuận, sau đó được chia sẻ rộng rãi trên nền tảng mạng xã hội X.
Văn phòng Ủy viên riêng tư cho biết mặc dù xAI và X đã đưa ra một số biện pháp bảo vệ mới sau cuộc điều tra, nhưng vấn đề vẫn chưa được giải quyết triệt để. Ông Dufresne nhận định: “Họ cam kết sẽ tuân thủ, nhưng tôi không hài lòng rằng vấn đề đã được giải quyết.” Cùng ngày thứ Tư, chính phủ Canada đã công bố Đạo luật An toàn Mạng xã hội, yêu cầu các nền tảng trực tuyến phải xóa nội dung khiêu dâm do AI tạo ra (bao gồm cả deepfake) trong vòng 24 giờ, đồng thời có kế hoạch hình sự hóa hành vi chia sẻ các hình ảnh này. Phán quyết này gia tăng áp lực giám sát đối với các công ty mạng xã hội và trí tuệ nhân tạo trong việc kiềm chế nội dung deepfake.
