คณะกรรมาธิการด้านความเป็นส่วนตัวของแคนาดา Philippe Dufresne เปิดเผยผลสอบในวันพฤหัสบดีนี้ว่า ระบบแชทบอท AI ชื่อ Grok ของ xAI ซึ่งเป็นบริษัทของ Elon Musk ได้สร้าง ภาพ deepfake ที่มีเนื้อหาทางเพศโดยไม่ได้รับความยินยอม ซึ่งละเมิดกฎหมายความเป็นส่วนตัวของรัฐบาลกลางแคนาดา การสอบสวนพบว่าเครื่องมือสร้างภาพของ Grok ถูกเปิดตัวโดยไม่มีมาตรการป้องกันที่เพียงพอ ส่งผลให้ภายในเวลาเพียง 10 วันช่วงต้นปีนี้ ผู้ใช้ทั่วโลกสร้าง ภาพ deepfake ทางเพศโดยไม่ได้รับความยินยอมมากกว่า 1.8 ล้านภาพ ซึ่งต่อมาถูกแชร์อย่างกว้างขวางบนแพลตฟอร์มโซเชียลมีเดีย X
สำนักงานกรรมาธิการด้านความเป็นส่วนตัวระบุว่า แม้ xAI และ X จะนำมาตรการป้องกันใหม่ๆ มาใช้หลังการสอบสวน แต่ปัญหายังไม่จบสิ้น Dufresne กล่าวว่า “พวกเขาสัญญาว่าจะปฏิบัติตามกฎ แต่ผมไม่พอใจว่าปัญหานี้ได้รับการแก้ไขแล้ว” รัฐบาลแคนาดายังได้เปิดตัว พระราชบัญญัติความปลอดภัยบนโซเชียลมีเดีย ในวันพุธนี้ ซึ่งกำหนดให้แพลตฟอร์มออนไลน์ต้องลบเนื้อหาลามกอนาจาร รวมถึง deepfake ที่สร้างด้วย AI ภายใน 24 ชั่วโมง และมีแผนกำหนดให้การแชร์ภาพดังกล่าวเป็นความผิดทางอาญา คำตัดสินนี้เพิ่มแรงกดดันด้านกฎระเบียบต่อบริษัทโซเชียลมีเดียและ AI ในการควบคุมเนื้อหา deepfake
