Apple угрожала удалением Grok из App Store из-за контента с сексуальными дипфейками

Ранее в этом году чат-бот Grok, разработанный xAI, оказался в центре скандала из-за своей способности генерировать сексуальные дипфейки (Deepfake), например, изображения людей «без одежды». Сообщалось, что Grok по запросу легко создавал обнажённые изображения людей, жертвами среди которых были женщины и несовершеннолетние. Это вызвало широкое общественное возмущение и создало огромное давление на Apple с требованием удалить Grok и приложение его платформы X из App Store.

Хотя Apple публично не комментировала ситуацию в тот момент, согласно эксклюзивной переписке, полученной NBC News, компания предприняла действия за кулисами. В письме американским сенаторам Apple сообщила, что после получения жалоб и освещения проблемы в новостях признала приложения X и Grok «нарушающими её правила». В связи с этим Apple связалась с обеими командами в частном порядке, потребовав от разработчиков представить план по улучшению модерации контента. В письме также подтверждалось, что Apple «в частном порядке угрожала удалением» приложения Grok, чтобы заставить его решить проблему.

Этот инцидент демонстрирует типичный подход Apple как оператора крупнейшего в мире магазина приложений к вредоносному контенту, создаваемому новыми ИИ-технологиями. Apple известна своими строгими правилами проверки App Store, но обычно не обсуждает публично конкретные случаи. Данное разъяснение сенаторам также отражает растущую озабоченность законодателей этикой искусственного интеллекта и ответственностью платформ. При решении подобных кризисов непубличные коммуникации и давление являются обычными инструментами правоприменения для Apple.

По мере того как возможности ИИ по генерации контента становятся всё мощнее, а доступ к ним — проще, эффективное предотвращение использования технологий для создания вредоносного контента, такого как дипфейки, станет серьёзной проблемой для всех технологических платформ. Реакция Apple в этом случае — лишь начало для решения более сложных задач управления контентом в будущем.