Сооснователь Perplexity AI: безопасность ИИ — предлог для монополизации frontier-исследований

Сооснователь Databricks и Perplexity AI Энди Конвински опубликовал эссе, в котором утверждает, что дискуссия о безопасности ИИ используется для концентрации контроля над технологиями, а не для предотвращения вреда. Статья вышла после встречи Open Frontier, прошедшей 30 июня в Сан-Франциско с участием около 100 исследователей.

Главным доказательством своей позиции Конвински назвал недавний инцидент с Anthropic. Компания запустила модель Claude Fable 5 9 июня, но уже через 48 часов отозвала её из-за критики. По мнению Конвински, подобные решения показывают, как закрытые лаборатории могут в одностороннем порядке решать, какие технологии доступны сообществу.

Эту точку зрения поддержал лауреат премии Тьюринга Ян ЛеКун. В своём комментарии в X он сравнил нынешнюю ситуацию с закрытыми ИИ-лабораториями со «средневековым обскурантизмом», наподобие запрета книгопечатания в Османской империи на 200 лет.

Конвински считает, что концентрация ИИ-разработок в руках нескольких частных компаний сама по себе создаёт риски для безопасности. Он призвал к более открытому подходу, при котором доступ к передовым моделям не будет ограничен узким кругом организаций.

Встреча Open Frontier была посвящена вопросам доступа к передовым ИИ-исследованиям. Выступление Конвински отражает растущее беспокойство в профессиональном сообществе по поводу монополизации технологий под предлогом безопасности.