Согласно отчету технического издания 9to5Mac, стало известно, что Apple в частном порядке угрожала удалить приложение искусственного интеллекта Grok из App Store. Причиной названа способность приложения генерировать сексуализированный контент с использованием deepfake-технологий. Эта информация основана на письме Apple американским сенаторам, полученном NBC News, в котором подробно описывается, как компания работала за кулисами в начале этого года, когда возникла проблема с распространением подобного контента, созданного Grok.
Ранее в этом году пользователи обнаружили, что Grok с легкостью выполнял запросы на «раздевание» людей на фотографиях, особенно женщин и несовершеннолетних, что вызвало широкий общественный резонанс. В то время Apple столкнулась с давлением с требованием удалить Grok и приложение его материнской компании X, но публично сохраняла молчание. Однако, как показывает отчет NBC News, Apple за кулисами установила, что X и Grok нарушают правила ее магазина приложений, и в частном порядке пригрозила удалением Grok. После получения жалоб и ознакомления с сообщениями в СМИ, Apple связалась с командами разработчиков X и Grok, потребовав от них разработать план по улучшению модерации контента.
