ต้นปีนี้ แชทบ็อต Grok ที่พัฒนาโดย xAI ตกอยู่ภายใต้ข้อโต้แย้ง เนื่องจากมีความสามารถสร้างภาพ Deepfake แนวอนาจาร เช่น การ "ถอดเสื้อผ้า" รายงานชี้ว่า Grok สามารถสร้างภาพเปลือยของบุคคลได้อย่างง่ายดายตามคำขอ โดยเหยื่อรวมถึงสตรีและผู้เยาว์ สิ่งนี้ทำให้เกิดความไม่พอใจอย่างรุนแรงในหมู่สาธารณชน และกดดันให้ Apple ต้องพิจารณาลบแอปพลิเคชัน Grok และแพลตฟอร์ม X ออกจาก App Store
แม้ Apple จะไม่แสดงความคิดเห็นต่อสาธารณะในเวลานั้น แต่จากจดหมาย独家ที่ NBC News ได้รับ เปิดเผยว่าบริษัทได้ดำเนินการเบื้องหลัง Apple ระบุในจดหมายถึงวุฒิสมาชิกสหรัฐฯ ว่าหลังรับเรื่องร้องเรียนและติดตามข่าวที่เกี่ยวข้อง ได้ตัดสินใจว่าแอป X และ Grok "ละเมิดหลักเกณฑ์"并要求ให้นักพัฒนาเสนอแผนปรับปรุงการตรวจสอบเนื้อหา จดหมายยังยืนยันว่า Apple เคย "ขู่ว่าจะลบแอป Grok แบบส่วนตัว"
เหตุการณ์นี้เผยให้เห็นแนวทางปฏิบัติทั่วไปของ Apple ในฐานะผู้ดำเนินการแอปสโตร์ที่ใหญ่ที่สุดในโลก เมื่อต้องเผชิญกับเนื้อหาอันตรายจากเทคโนโลยี AI เกิดใหม่ Apple มีชื่อเสียงในด้านแนวทางการตรวจสอบ App Store ที่เข้มงวด แต่ปกติไม่เปิดเผยการหารือในกรณีเฉพาะ การชี้แจงต่อวุฒิสมาชิกครั้งนี้ สะท้อนถึงความกังวลที่เพิ่มขึ้นของนักกฎหมายต่อจริยธรรม AI และความรับผิดชอบของแพลตฟอร์ม ในการจัดการวิกฤตเช่นนี้ การสื่อสารและกดดันแบบไม่เปิดเผย เป็นเครื่องมือบังคับใช้ที่ Apple มักใช้
ในขณะที่ความสามารถของ AI ในการสร้างเนื้อหาเพิ่มขึ้นและเข้าถึงง่ายขึ้น วิธีการป้องกันไม่ให้เทคโนโลยีถูกใช้ในทางที่ผิดเพื่อสร้างเนื้อหาอันตรายอย่าง Deepfake จะกลายเป็นความท้าทายร้ายแรงที่แพลตฟอร์มเทคโนโลยีทุกแห่งต้องเผชิญ การตอบสนองของ Apple ในครั้งนี้ เป็นเพียงการเริ่มต้นของปัญหาการกำกับดูแลเนื้อหาที่จะซับซ้อนยิ่งขึ้นในอนาคต
