Утечка исходного кода ИИ-агента Claude от Anthropic: обещания безопасности под вопросом

Известная компания в сфере безопасности ИИ, Anthropic, столкнулась с инцидентом утечки исходного кода. При выпуске своего популярного ИИ-помощника для программистов Claude Code из-за «проблемы со сборкой релиза» внутренний исходный код был случайно обнародован. В Anthropic объяснили инцидент человеческой ошибкой и подчеркнули, что это не было уязвимостью безопасности. Тем не менее, этот случай заставил усомниться в операционной безопасности разработчика, чьим ключевым обещанием является защищенность.

Объем утекшего кода значителен — около 1900 файлов и 512 тысяч строк кода, связанных с агентом Claude Code. Как отмечают аналитики кибербезопасности из Straiker, злоумышленники теперь могут детально изучить поток данных в четырехэтапном конвейере управления контекстом Claude Code и потенциально создавать вредоносные нагрузки, способные долго сохраняться в сессии. Это уже второй инцидент, связанный с безопасностью, в Anthropic за несколько дней.

Информация об утечке最初 была обнародована в публикации на платформе X, которая быстро набрала более 30 миллионов просмотров, привлекв широкое внимание технологического и security-сообщества. Эта ошибка не только раскрыла конкретные реализации кода, но и заставила рынок переоценить фактический уровень контроля безопасности в процессе разработки ИИ-моделей.

Данный инцидент послужил тревожным сигналом для быстро развивающейся индустрии искусственного интеллекта. Даже компании, для которых безопасность является ключевым преимуществом, должны выстраивать более строгие защитные механизмы в процессах разработки и выпуска продуктов, чтобы противостоять растущим сложным угрозам.