Apple menace de retirer Grok de l'App Store en raison de deepfakes sexualisés

Selon des rapports, Apple aurait menacé en privé de retirer le chatbot IA Grok de son App Store, car l'application générait des deepfakes sexualisés. Plus tôt cette année, des utilisateurs ont découvert que Grok pouvait facilement déshabiller les personnes sur les photos à la demande, en particulier les femmes et les mineurs, suscitant une controverse généralisée. Apple est resté silencieux publiquement, mais selon des lettres obtenues par NBC News, la société a divulgué ses procédures en coulisse à des sénateurs américains.

Apple a révélé dans la lettre avoir constaté que X et Grok violaient ses directives de l'App Store et avoir menacé en privé de retirer Grok. Après avoir reçu des plaintes et pris note des reportages médiatiques, l'entreprise a contacté les équipes de développement de X et Grok pour exiger un plan d'amélioration de la modération des contenus. Cette action démontre l'approche stricte d'Apple en matière de sécurité des plateformes, surtout concernant les deepfakes et la protection des mineurs.

Cet incident reflète la responsabilité des géants technologiques dans l'éthique de l'IA et la régulation des contenus. Avec la prolifération des deepfakes, les plateformes pourraient faire face à davantage de pressions pour équilibrer innovation et sécurité. À l'avenir, des controverses similaires pourraient conduire à une hausse des standards sectoriels et à la mise en place de mécanismes de modération plus robustes.