Le commissaire à la protection de la vie privée du Canada, Philippe Dufresne, a publié jeudi les résultats de son enquête, concluant que la génération de deepfakes sexuels par le chatbot d'intelligence artificielle Grok, propriété d'xAI (société d'Elon Musk), enfreint la loi fédérale canadienne sur la protection de la vie privée. L'enquête révèle que l'outil de génération d'images de Grok a été mis en ligne sans mesures de protection suffisantes. Au début de l'année, en seulement dix jours, les utilisateurs du monde entier ont produit plus de 1,8 million d'images sexuelles deepfake non consenties, largement partagées par la suite sur la plateforme sociale X.
Le bureau du commissaire à la vie privée note que, bien qu'xAI et X aient introduit de nouvelles garanties après l'enquête, le problème est loin d'être résolu. Dufresne a déclaré : « Ils se sont engagés à se conformer, mais je ne suis pas satisfait que le problème soit réglé. » Le gouvernement canadien a parallèlement dévoilé mercredi le projet de loi sur les médias sociaux sécuritaires, qui exige des plateformes en ligne qu'elles suppriment dans les 24 heures tout contenu à caractère sexuel incluant des deepfakes générés par IA, et prévoit d'ériger en infraction pénale le partage de telles images. Cette décision renforce la pression réglementaire sur les entreprises de médias sociaux et d'intelligence artificielle pour qu'elles endiguent les contenus deepfake.
