Уполномоченный по вопросам конфиденциальности Канады Филипп Дюфрен в четверг объявил результаты расследования, признав, что сексуализированные дипфейки, созданные чат-ботом Grok компании xAI Илона Маска, нарушают федеральный закон о конфиденциальности Канады. В ходе проверки выяснилось, что инструмент генерации изображений Grok был запущен без достаточных мер защиты. За первые 10 дней этого года пользователи по всему миру сгенерировали с его помощью более 1,8 миллиона несанкционированных сексуализированных дипфейков, которые затем широко распространялись на платформе X.
В офисе уполномоченного отметили, что, хотя xAI и X после начала расследования внедрили некоторые новые меры защиты, проблема далека от решения. Дюфрен заявил: «Они пообещали соблюдать закон, но я не удовлетворен тем, что вопрос урегулирован». В среду правительство Канады одновременно представило Закон о безопасных социальных сетях, который обязывает онлайн-платформы удалять контент сексуального характера, включая дипфейки, созданные ИИ, в течение 24 часов, а также планирует ввести уголовную ответственность за распространение таких изображений. Данное решение усиливает регуляторное давление на компании социальных сетей и разработчиков ИИ, направленное на сдерживание дипфейков.
