Google: хакеры впервые использовали ИИ для создания zero-day эксплойта, обходящего 2FA

Согласно отчёту Google Threat Intelligence Group, хакеры впервые использовали искусственный интеллект для создания zero-day эксплойта. Злоумышленники применили AI-модель для обнаружения уязвимости в популярном открытом веб-инструменте системного администрирования и обошли двухфакторную аутентификацию (2FA).

Эксплойт требовал наличия учётных данных пользователя, но позволял пропустить второй фактор проверки, который часто используется для защиты криптовалютных аккаунтов и кошельков. Google с высокой уверенностью заявил, что злоумышленник «вероятно, использовал AI-модель для обнаружения и применения уязвимости».

Скрипт эксплойта содержал характерные признаки обучения ИИ, включая галлюцинацию и формат, типичный для тренировочных данных. Уязвимость оказалась не обычной ошибкой памяти, а логическим дефектом на высоком уровне — разработчик жёстко задал предположение о доверии.

В Google отметили, что подобные ошибки лучше всего выявляют большие языковые модели (LLM), способные распознавать высокоуровневые логические проблемы и аномалии статического кода. Атака может иметь серьёзные последствия для безопасности криптосообщества, где 2FA — стандартная мера защиты.

Помимо этого, Google зафиксировал рост индустриализации злоупотребления LLM: злоумышленники создают автоматизированные пайплайны для перебора премиум-аккаунтов, пула API-ключей и обхода защитных ограничений. Это позволяет им вести атакующие операции с высокой анонимностью.

Компания также отметила, что Китай и КНДР проявляют значительный интерес к использованию ИИ для поиска уязвимостей. В то же время, по данным Google, злоумышленники пока не добились прорывных возможностей по обходу базовой логики безопасности ведущих моделей.