Уязвимость в Claude Code GitHub Action позволяла похитить учетные данные, сообщила Microsoft

Microsoft раскрыла информацию об уязвимости в Claude Code GitHub Action от компании Anthropic. По данным исследователей, она могла позволить злоумышленникам похищать учетные данные, хранящиеся в пайплайнах разработки программного обеспечения.

Проблема заключалась в возможности проведения prompt injection. Атакующий мог внедрить вредоносные инструкции в GitHub issues, pull request или комментарии, которые AI-агент получал на проверку. Таким образом, агент мог непреднамеренно исполнить эти инструкции и раскрыть конфиденциальные credentials.

Microsoft обнаружила уязвимость и сообщила о ней разработчикам через платформу HackerOne. Anthropic оперативно выпустила патч в мае, устранив возможность атаки. Компания рекомендует пользователям своевременно обновлять версии инструмента.

Подобные уязвимости AI-агентов становятся все более актуальными по мере их внедрения в процессы разработки. Инструменты, основанные на больших языковых моделях, могут обрабатывать чувствительные данные, и защита от манипуляций требует дополнительного внимания.

Специалисты по безопасности советуют разработчикам ограничивать права доступа AI-агентов, использовать изолированные среды и регулярно проводить аудит безопасности пайплайнов. Это снижает риски при использовании подобных технологий.