Глава Anthropic призвал к обязательному тестированию мощных ИИ-моделей

CEO Anthropic Дэрио Амодей опубликовал эссе, в котором призвал правительства США ввести обязательные требования безопасности для самых мощных моделей искусственного интеллекта. По его словам, эра регулирования, основанного на добровольной прозрачности, закончилась, и необходимы более жёсткие меры.

В своём обращении Амодей сравнил необходимые меры с процедурами в авиационной отрасли, где модели тестируются так же строго, как самолёты перед вылетом. Он подчеркнул, что медлить с введением правил нельзя, поскольку технологии развиваются слишком быстро.

Anthropic предложила проводить обязательное стороннее тестирование фронтальных моделей по четырём категориям: кибербезопасность, биологическое оружие, потеря контроля над ИИ и автоматизированные исследования и разработки. Эти тесты должны проводиться независимыми организациями до выпуска модели.

Помимо эссе, компания выпустила законодательную инициативу по тестированию фронтальных моделей, а также политическую рамочную программу по замещению рабочих мест, вызванному автоматизацией. Амодей отметил, что регулирование должно быть внедрено как можно скорее.

Примечательно, что призыв к ужесточению регулирования прозвучал в момент, когда Anthropic продолжает выпускать всё более мощные версии своих моделей. Это создаёт парадокс: компания одновременно наращивает возможности ИИ и предупреждает о связанных с этим рисках.

Аналитики отмечают, что инициатива Anthropic может стать важным сигналом для всей отрасли. Если подобные требования будут приняты, это может изменить подход к разработке и развёртыванию передовых систем ИИ не только в США, но и в других странах.