El Comisionado Federal de Privacidad de Canadá, Philippe Dufresne, publicó recientemente los resultados de una investigación en la que determinó que el chatbot Grok, desarrollado por la empresa de inteligencia artificial xAI de Elon Musk, genera contenido pornográfico deepfake que viola la Ley de Protección de Datos Personales y Documentos Electrónicos de Canadá. El comisionado señaló que la plataforma X y xAI permiten a los usuarios crear y difundir imágenes sexuales no consentidas mediante Grok, lo que constituye una infracción continua a la ley federal de privacidad.
La investigación reveló que, en solo 10 días a principios de este año, se generaron más de 1,8 millones de imágenes pornográficas deepfake a través de Grok a nivel mundial. Dufresne indicó que, aunque las empresas involucradas implementaron algunas medidas de seguridad tras la investigación, el problema está lejos de resolverse: “Han hecho algunos compromisos de cumplimiento, pero no considero que el problema esté solucionado”. La investigación comenzó en enero de este año, y paralelamente el Reino Unido y California ya han iniciado revisiones similares.
