รายงานล่าสุดเปิดเผยว่า Apple คุกคามที่จะถอนแอปพลิเคชัน AI ชื่อ Grok ของ Elon Musk ออกจาก App Store เนื่องจากถูกชี้ว่าล้มเหลวในการป้องกันผู้ใช้จากการสร้าง deepfake เนื้อหาลามกหรือภาพอนาจาร แนวโน้มการดำเนินการนี้อาจเป็นผลกระทบสำคัญต่อ Grok ที่กำลังถูกตรวจสอบจากนานาชาติในประเด็นเนื้อหา เหตุการณ์นี้มีที่มาจากจดหมายถึงวุฒิสมาชิกสหรัฐฯ ที่เปิดเผยว่า Apple พบว่า Grok และแพลตฟอร์ม X ละเมิดกฎของ App Store
จากจดหมายวันที่ 30 มกราคมที่อ้างอิงโดย NBC News หลังจากที่ Apple พิจารณาแล้วว่า Grok และ X เกี่ยวข้องกับเนื้อหาทางเพศที่ชัดเจน ได้ขอให้ทั้งคู่จำกัดฟังก์ชันการสร้าง deepfake แบบมีเนื้อหาทางเพศ และจัดทำแผนปรับปรุงการตรวจสอบเนื้อหา แต่แผนดังกล่าวถูกมองว่าไม่เพียงพอ การคุกคามนี้เกิดขึ้นหลังจากวุฒิสมาชิกพรรคเดโมแครตอย่าง Ben Ray Luján, Ed Markey และ Ron Wyden ร้องขอให้ Apple และ Google ถอดแอป X และ Grok ออกจากตลาดแอปของตน ซึ่งสะท้อนถึงแรงกดดันต่อแพลตฟอร์มในการควบคุมเนื้อหาที่สร้างโดย AI
