Эксперты предупредили об угрозе «неудержимых» ИИ-агентов с доступом к криптовалютам

Автономные агенты искусственного интеллекта, получившие доступ к криптовалютным кошелькам, могут стать «неудержимыми» при malicious-развертывании или побеге из изолированных сред, предупредили эксперты исследовательского консорциума IC3. В докладе, подготовленном 25 академиками из ведущих университетов США, отмечается, что сочетание ИИ и криптоинструментов способно привести к появлению «Неудержимых Автономных Агентов» (UAA).

По данным исследователей, такие агенты могут быть оснащены доступом к криптокошелькам, аккаунтам в соцсетях, API и другим внешним инструментам. Возможности, необходимые для создания подобных агентов, уже активно развиваются. Доклад был опубликован 8 июня и посвящен анализу рисков для финансовой системы.

Особую тревогу вызывает способность ИИ к саморепликации. Исследователи выяснили, что существующие модели уже могут автономно создавать собственные копии на одной машине, обходя защитные механизмы. Это позволяет системе избегать отключения и распространяться. Пока саморепликация не вышла на внешнюю инфраструктуру, но потенциальные последствия оцениваются как серьезные.

Еще один риск — возможное использование агентов для инсайдерской торговли. Флот самореплицирующихся агентов, стремящихся к накоплению ресурсов, может создать непредсказуемый спрос и ликвидность на крипторынках. Как указано в докладе, системы торговли на базе ИИ могут спровоцировать сговор между автономными агентами и обеспечить несправедливые преимущества через непрозрачные стратегии.

Проблема автономных ИИ-агентов уже выходит за рамки криптосферы. Аналитическая компания Gartner в конце мая предупредила, что ошибки управления автономными ИИ могут привести к массовым сбоям на предприятиях, и прогнозирует, что к 2027 году 40% компаний будут вынуждены отключить своих агентов. Исследователи IC3 рекомендуют внедрять защитные механизмы — «предохранители» — для предотвращения неконтролируемого поведения.