SpaceX предупреждает: NSFW-режим Grok создаёт серьёзные риски для бизнеса

В недавно поданных документах для выхода на биржу (S-1) SpaceX прямо предупредила инвесторов о том, что NSFW-режим (не предназначенный для рабочего места) её ИИ-модели Grok может создавать «потенциально принудительные или эксплуатационные изображения», а также упомянула «расследования, связанные с генерацией контента сексуализированного характера с участием несовершеннолетних». В документе указано, что компания уже сталкивается в США с несколькими судебными исками и государственными проверками, связанными с функцией генерации изображений Grok, и эти юридические риски могут существенно повлиять на бизнес.

Как стандартное раскрытие рисков перед IPO, SpaceX назвала NSFW-режим Grok, который отличается «крайне непочтительным и более жёстким» тоном, источником «повышенных рисков» и «ущерба репутации». В документе особо отмечено, что Федеральная торговая комиссия США (FTC) уже направила запросы относительно безопасности использования ИИ-чатботов в качестве компаньонов для детей и подростков. Ранее Маск отрицал, что Grok создавал сексуализированные изображения несовершеннолетних, однако данный документ S-1 подтверждает, что соответствующие расследования продолжаются.

Кроме того, SpaceX предупредила о потенциальных проблемах с нарушением интеллектуальных прав и генерацией откровенного контента. Хотя подобные раскрытия рисков встречаются в документах компаний, готовящихся к IPO, конкретные обвинения и регуляторное давление, связанные с безопасностью детей, делают проблемы Grok особенно серьёзными. Ужесточение мирового регулирования генеративного ИИ ставит перед SpaceX и её дочерней компанией xAI долгосрочные задачи по балансированию между «непочтительным» стилем технологии и социальной ответственностью.

Комментарий: Раскрытие в S-1 не только отражает юридические обязательства SpaceX перед инвесторами, но и обнажает отраслевую проблему безопасности контента, присущую большим языковым моделям. Grok, позиционируемый как «бунтарский» ИИ, должен найти способ привлекать пользователей своим NSFW-режимом, не пересекая юридические «красные линии» – это станет ключевым фактором, определяющим репутацию и коммерческие перспективы xAI.