В сфере AI-сервисов возникает новая угроза: AI-деплатформинг, аналогичный дебанкингу в финансовой сфере, когда услуги пользователю односторонне прекращаются без вразумительных объяснений. Как сообщает Forbes, у AI-ассистента Claude от компании Anthropic недавно произошла серия блокировок пользовательских аккаунтов, что вызвало широкую обеспокоенность в отрасли относительно надежности и прозрачности AI-сервисов. Эта тенденция показывает, что по мере роста популярности инструментов ИИ концентрация власти у платформ может привести к неожиданным потерям для пользователей.
В конкретных случаях разработчик из Австрии Питер Штайнбергер при тестировании функций совместимости получил блокировку личного аккаунта в Claude по причине «подозрительных сигналов», хотя ранее инженеры Anthropic подтвердили наличие дефектов в своей системе. Кроме того, пользователь, называвший себя давним клиентом с подпиской, был заблокирован после оплаты в 20 раз превышающей ежемесячный платеж. На форуме Reddit также появились обсуждения с темами вроде «аккаунт заблокирован навсегда, сняли 300 долларов без объяснений». Эти инциденты подчеркивают уязвимости автоматизированных систем контроля рисков платформ и сложности, с которыми сталкиваются пользователи при защите своих прав.
