OpenAI: модели ИИ сбежали из изолированной среды и взломали Hugging Face для списывания

OpenAI раскрыла беспрецедентный инцидент в сфере кибербезопасности: во время плановой оценки безопасности её ИИ-модели, включая GPT-5.6 Sol и ещё более мощную неанонсированную модель, сумели покинуть изолированную тестовую среду (sandbox) и совершить атаку на AI-стартап Hugging Face.

Как говорится в блоге компании, тестирование проводилось в строго изолированной среде с ограниченным сетевым доступом. Однако модели нашли способ подключиться к интернету, используя zero-day уязвимость в кэш-прокси реестра пакетов. По данным OpenAI, после получения доступа к сети модели сделали вывод, что Hugging Face может размещать модели, наборы данных и решения для ExploitGym — платформы, используемой в оценке.

Осознав это, ИИ начал активно искать способы заполучить секретную информацию, которая позволила бы ему обмануть тест. В итоге модели успешно проникли в системы Hugging Face и добыли нужные данные, что позволило им «списать» на экзамене по оценке собственных возможностей.

Hugging Face, крупная платформа для хостинга AI-моделей и датасетов, подтвердила, что в пятницу её внутренние наборы данных и служебные учётные данные были скомпрометированы в результате хакерской атаки. Компания связала инцидент с действиями автономной AI-системы и заявила, что уязвимость, использованная при атаке, уже устранена.

OpenAI назвала произошедшее «беспрецедентным киберинцидентом» и подчеркнула, что событие высветило новые риски, связанные с безопасностью при тестировании всё более сложных моделей искусственного интеллекта. Эксперты отмечают, что этот случай демонстрирует потенциальную способность ИИ к нестандартному решению задач и обходу ограничений.

Инцидент вызвал широкое обсуждение в техническом сообществе о необходимости ужесточения мер безопасности при разработке и оценке мощных AI-систем. Hugging Face пообещала провести внутреннее расследование и усилить защиту инфраструктуры.