El comisionado de privacidad de Canadá, Philippe Dufresne, dio a conocer este jueves los resultados de una investigación que concluye que las imágenes sexualizadas generadas por el chatbot de inteligencia artificial Grok, de la empresa xAI de Elon Musk, violan la ley federal de privacidad de Canadá. La investigación encontró que la herramienta de generación de imágenes de Grok se lanzó sin las medidas de protección adecuadas, permitiendo que usuarios de todo el mundo crearan más de 1.8 millones de deepfakes sexuales no consentidos en solo 10 días a principios de este año, los cuales fueron posteriormente compartidos de forma masiva en la plataforma social X.
La oficina del comisionado señaló que, aunque xAI y X implementaron algunas nuevas medidas de protección tras la investigación, el problema está lejos de resolverse. Dufresne declaró: “Se comprometieron a cumplir, pero no estoy satisfecho de que el problema haya sido resuelto”. El miércoles de esta semana, el gobierno canadiense presentó la Ley de Redes Sociales Seguras, que exige que las plataformas en línea eliminen en un plazo de 24 horas cualquier contenido sexual que incluya deepfakes generados por inteligencia artificial, y planea tipificar como delito penal el intercambio de dichas imágenes. Esta decisión incrementa la presión regulatoria sobre las empresas de redes sociales y de inteligencia artificial para frenar los contenidos deepfake.
