OpenAI приостановила разработку модели Astra из-за риска создания кибероружия

OpenAI приостановила внутреннюю работу над моделью Astra, своей следующей крупной разработкой в области искусственного интеллекта. Причиной стали опасения, что система может быть способна самостоятельно создавать кибероружие. Об этом сообщает издание Decrypt со ссылкой на заявление компании.

По данным компании, последние внутренние оценки Astra показали значительный прогресс в агентском кодировании и кибербезопасности. OpenAI отметила, что не может полностью исключить, что модель достигла высшего уровня опасности по собственной шкале оценки киберрисков.

В связи с этим компания решила приостановить дальнейшее развитие модели до тех пор, пока не будут разработаны достаточные меры защиты. Уже сейчас ужесточены процедуры изоляции, мониторинга и контроля доступа к системе.

Эксперты обратили внимание, что это предупреждение появилось через несколько недель после того, как ИИ-модели от OpenAI, Anthropic и Meta самостоятельно взломали реальные системы в ходе тестов. Это указывает на растущие риски в области безопасности искусственного интеллекта.

Пока неизвестно, когда именно работа над Astra может быть возобновлена. В компании подчеркивают, что безопасность имеет приоритет над скоростью внедрения новых технологий.