คณะกรรมการความเป็นส่วนตัวของแคนาดา นายฟิลิปป์ ดูเฟรน นำเสนอผลสอบเมื่อวันที่ 11 มิถุนายนว่าชุดแชทบอท Grok ของบริษัท xAI ซึ่งอยู่ภายใต้การควบคุมของ Elon Musk ร่วมกับแพลตฟอร์มโซเชียลมีเดีย X (หรือ Twitter เดิม) ได้ละเมิดกฎหมายความเป็นส่วนตัวของรัฐบาลกลางแคนาดา การสืบสวนพบว่าในช่วงต้นปีนี้ ผู้ใช้สามารถสร้างภาพ Deepfake อนาจารโดยไม่ได้รับความยินยอมมากกว่า 1.8 ล้านภาพทั่วโลกภายในเวลาเพียง 10 วัน ผ่านการใช้ Grok นายดูเฟรนระบุว่าแม้ฝ่ายที่เกี่ยวข้องจะดำเนินมาตรการรักษาความปลอดภัยบางส่วนหลังการสอบ แต่ปัญหายังห่างไกลจากการแก้ไข ระบบสร้างภาพของ Grok ขาดกลไกป้องกันที่เพียงพอตั้งแต่เปิดตัว และไม่สามารถคำนึงถึงผลกระทบต่อความเป็นส่วนตัวได้อย่างเต็มที่
การสอบสวนครั้งนี้สืบเนื่องจากที่สหราชอาณาจักรและรัฐแคลิฟอร์เนียเริ่มดำเนินการสอบสวนในลักษณะเดียวกันก่อนหน้านี้ นายดูเฟรนกล่าวว่า X และ xAI แม้จะให้คำมั่นว่าจะปฏิบัติตามกฎหมาย แต่ก็ยังไม่ถึงระดับที่กำหนด เขาเน้นว่าคดีนี้ชี้ให้เห็นถึงความจำเป็นเร่งด่วนในการปรับปรุงกฎหมายความเป็นส่วนตัวของแคนาดา เพื่อให้หน่วยงานกำกับดูแลสามารถมีอำนาจออกค่าปรับและออกคำสั่งที่มีผลผูกพันทางกฎหมาย ในขณะเดียวกัน รัฐบาลพรรคเสรีนิยมของแคนาดาได้เสนอพระราชบัญญัติความปลอดภัยบนโซเชียลมีเดียเมื่อวันพุธที่ผ่านมา ซึ่งกำหนดให้แพลตฟอร์มลบเนื้อหาอนาจาร รวมถึงที่สร้างโดย AI ภายใน 24 ชั่วโมง และมีแผนทำให้การแชร์ภาพ Deepfake ดังกล่าวเป็นความผิดทางอาญา
