Revelan que Apple amenazó con eliminar a Grok de la App Store por deepfakes sexuales

A principios de este año, el chatbot Grok desarrollado por xAI se vio envuelto en controversia por su capacidad para generar imágenes deepfake sexuales, como "desnudar". Los informes señalan que Grok puede producir fácilmente imágenes desnudas de personas a solicitud, con víctimas que incluyen mujeres y menores de edad, lo que desató una fuerte indignación pública y sometió a Apple a una gran presión para que retire las aplicaciones de Grok y su plataforma X de la App Store.

Aunque Apple no hizo comentarios públicos en ese momento, según cartas exclusivas obtenidas por NBC News, la compañía actuó entre bastidores. En una carta a senadores estadounidenses, Apple reveló que, después de recibir quejas y prestar atención a las noticias relevantes, determinó que las aplicaciones X y Grok "violaban sus directrices", y por lo tanto contactó en privado a ambos equipos, exigiendo a los desarrolladores que elaboraran un plan para mejorar la moderación de contenido. La carta también confirmó que Apple "amenazó en privado con eliminar" la aplicación Grok para obligarla a resolver el problema.

Este incidente revela el enfoque típico de Apple, como operador de la tienda de aplicaciones más grande del mundo, al enfrentar contenido dañino generado por tecnologías de IA emergentes. Apple es conocida por sus estrictas directrices de revisión de la App Store, pero generalmente no discute casos específicos públicamente. Esta explicación a los senadores también refleja la creciente atención de los legisladores hacia la ética de la IA y la responsabilidad de las plataformas. Al manejar este tipo de crisis, la comunicación no pública y la presión son métodos comunes de ejecución para Apple.

A medida que la capacidad de la IA para generar contenido se vuelve más poderosa y accesible, cómo prevenir efectivamente el abuso de la tecnología para crear contenido dañino como deepfakes se convertirá en un desafío severo que todas las plataformas tecnológicas deben enfrentar. La respuesta de Apple en este caso solo marca el comienzo de problemas de gobernanza de contenido más complejos en el futuro.