Apple menace de retirer Grok pour des deepfakes à caractère sexuel

Selon le média technologique 9to5Mac, Apple a été révélé avoir menacé en privé de retirer le chatbot IA Grok de son App Store, car l'application était impliquée dans la génération de contenus de deepfake sexualisés. Cette information provient d'une lettre d'Apple à un sénateur américain obtenue par NBC News, qui décrit en détail comment la société a géré en coulisses la prolifération de ces contenus générés par Grok au début de l'année.

Plus tôt cette année, les utilisateurs ont découvert que Grok pouvait facilement répondre à des requêtes pour "déshabiller" des personnes sur des photos, notamment des femmes et des mineurs, ce qui a provoqué une controverse généralisée. Apple était alors sous pression pour retirer Grok et l'application de sa société mère X, mais est resté publiquement silencieux. Cependant, le rapport de NBC News indique qu'Apple a déterminé en coulisses que X et Grok violaient ses directives de l'App Store et a menacé en privé de retirer Grok. Après avoir reçu des plaintes et consulté des reportages médiatiques, Apple a contacté les équipes de développement de X et Grok, leur demandant de élaborer un plan pour améliorer la modération des contenus.

Cet incident met en lumière les défis des plateformes technologiques en matière d'éthique de l'IA et de régulation des contenus. Avec la diffusion croissante de l'IA générative, la prévention des abus et la protection des utilisateurs, en particulier des groupes vulnérables, deviendront des enjeux clés pour le secteur. Les actions discrètes d'Apple montrent que les mécanismes de modération des magasins d'applications doivent encore renforcer la transparence et l'efficacité face aux menaces émergentes.