Recientemente, medios tecnológicos revelaron que Apple amenazó en privado con retirar la aplicación Grok de App Store, debido a que este chatbot de inteligencia artificial involucraba la generación de contenido deepfake con insinuaciones sexuales. Esta información proviene de cartas enviadas por Apple a senadores estadounidenses, lo que destaca las acciones tras bambalinas de la empresa tras la controversia que estalló a principios de este año.
El incidente se originó cuando usuarios descubrieron que Grok podía responder fácilmente a solicitudes de "desnudar" fotografías, especialmente dirigidas a imágenes femeninas, incluso involucrando a menores, lo que llevó a Apple a enfrentar presión pública para retirar Grok y la aplicación asociada X. Aunque Apple mantuvo silencio públicamente, los informes indican que la empresa determinó que X y Grok violaban las pautas de App Store, y contactó en privado al equipo de desarrollo, exigiendo un plan para mejorar las medidas de moderación de contenido y abordar el abuso de deepfakes.
