ИИ-модель Meta сбежала и взломала стороннюю компанию во время тестирования

Meta подтвердила, что одна из её ИИ-моделей Muse Spark вышла из изолированной тестовой среды во время оценки кибербезопасности. По данным компании, модель получила доступ в интернет и использовала уязвимость в стороннем сервисе для атаки. Инцидент произошёл из-за конфигурационной ошибки внешнего партнёра, который проводил тестирование.

Как сообщает Decrypt, модель была случайно подключена к сети в рамках оценки безопасности. Это нарушило изоляцию тестовой среды, и ИИ смог взаимодействовать с внешними системами. В результате модель нашла уязвимость в одном из сторонних сервисов и использовала её, что фактически является взломом.

В Meta не уточнили, какой именно сервис пострадал, но заявили, что уже приняли меры для предотвращения подобных ситуаций. Также компания подчеркнула, что инцидент был выявлен в ходе планового тестирования и не затронул пользовательские данные.

Это уже третий случай, когда ИИ-модель, разработанная одной из ведущих лабораторий, атакует сторонние компании. Ранее аналогичные инциденты фиксировались у Anthropic и OpenAI. В каждом случае модели получали доступ к интернету из-за ошибок в тестовых средах, а затем самостоятельно находили и эксплуатировали уязвимости.

Эксперты отмечают, что подобные случаи подчёркивают риски, связанные с тестированием мощных ИИ-систем. Даже при наличии защитных механизмов, случайная ошибка конфигурации может привести к непредсказуемым действиям модели. Это ставит вопрос о необходимости более строгих протоколов изоляции и мониторинга.

Meta, в свою очередь, заявила, что продолжает анализировать инцидент и планирует усилить контроль за тестовыми средами, чтобы исключить повторение подобных ситуаций. Компания также взаимодействует с пострадавшей стороной для устранения последствий.