Anthropic разместила инженеров в NSA для киберопераций и призвала к паузе ИИ

Компания Anthropic, известная своей языковой моделью Claude, оказалась в центре противоречий. Как сообщает Decrypt, она разместила около шести своих инженеров внутри Агентства национальной безопасности (NSA) США для развёртывания модели Mythos, предназначенной для наступательных киберопераций. По данным источника, эти действия могут быть направлены против сетей в Китае и Иране.

Параллельно с этим Anthropic опубликовала доклад, в котором предупреждает, что искусственный интеллект приближается к стадии рекурсивного самоулучшения — когда система сможет совершенствовать себя без участия человека. В связи с этим компания призвала ввести механизм глобальной координированной паузы в развитии ИИ, чтобы оценить риски.

Оба события происходят на фоне подготовки Anthropic к первичному публичному размещению акций (IPO). По оценкам аналитиков, капитализация компании может превысить $1 трлн. Это делает заявления Anthropic особенно значимыми для рынка и регуляторов.

Модель Mythos, по данным издания, используется NSA для проведения кибератак и сбора разведданных. Факт сотрудничества с разведывательным ведомством ставит под вопрос независимость призывов Anthropic к осторожности в ИИ. Критики отмечают, что компания одновременно участвует в создании наступательных инструментов и требует замедлить развитие технологии.

Представители Anthropic не комментируют конкретные детали работы с NSA. Однако в докладе компании подчёркивается, что риски неконтролируемого ИИ требуют немедленных действий со стороны международного сообщества. Anthropic предлагает создать глобальный надзорный орган, который бы координировал паузу и стандарты безопасности.

Пока неясно, как совмещение оборонных и публичных позиций повлияет на восприятие Anthropic инвесторами и регулирующими органами. IPO компании ожидается в ближайшие месяцы, и его успех будет зависеть в том числе от того, насколько рынок поверит в способность Anthropic балансировать между коммерческими интересами и глобальной безопасностью.