Ученые ООН: невозможно исключить катастрофический вред от ИИ

Организация Объединённых Наций представила независимую научную оценку состояния искусственного интеллекта. Доклад подготовила Международная независимая научная панель по ИИ, в состав которой вошли 40 учёных, отобранных из более чем 2600 кандидатов.

По данным документа, способности ИИ опережают как научное понимание, так и меры государственного регулирования. Сопредседатель панели Йошуа Бенжио отметил, что накапливающиеся свидетельства обманного поведения ИИ не позволяют науке исключить сценарии катастрофического ущерба по мере роста возможностей технологий.

Доклад опубликован за несколько дней до инаугурационного Глобального диалога ООН по управлению ИИ, который открывается в Женеве 6 июля. Ожидается, что обсуждение на форуме будет во многом опираться на выводы научной панели.

Эксперты подчёркивают, что развитие ИИ несёт как огромный потенциал, так и серьёзные риски. В докладе не предлагаются конкретные меры регулирования, но указывается на необходимость более глубокого изучения долгосрочных последствий и усиления международного контроля.

Ранее ведущие исследователи в области ИИ неоднократно призывали к осторожности, однако доклад ООН впервые формулирует такую позицию на уровне международной научной консенсусной группы. Как сообщается, окончательная версия отчёта будет представлена позднее в этом году.