OpenAI заблокировала российскую сеть, использовавшую ChatGPT для имитации академических экспертов

OpenAI объявила о блокировке аккаунтов, которые, по оценке компании, с высокой вероятностью происходили из России. Аккаунты использовались для продвижения организации, выдававшей себя за академический институт, сообщается в отчете, опубликованном на этой неделе.

По данным OpenAI, операторы этих аккаунтов применяли русскоязычные промпты для генерации постов и комментариев, преимущественно на английском языке. Созданный контент должен был имитировать работу независимого аналитического центра, который представлялся израильской организацией.

Установлено, что этот псевдоакадемический институт публиковал скопированные научные работы под именами реальных ученых без их согласия. Кроме того, распространялся аналитический материал, который, по оценке исследователей, имел пророссийскую направленность.

Несмотря на внешнюю активность, большинство опубликованных постов почти не получили отклика. Однако связанные с сетью Telegram-каналы, по данным отчета, насчитывали до 20 тысяч подписчиков каждый, что расширяло потенциальную аудиторию.

OpenAI подчеркнула, что в результате расследования заблокировала все выявленные аккаунты, нарушавшие политику компании. В отчете также отмечается, что подобные операции демонстрируют риски использования инструментов искусственного интеллекта для целей дезинформации и манипуляции общественным мнением.

Эксперты указывают, что данный случай не единичен: нейросети все чаще применяются для создания убедительных фейковых материалов, в том числе в академической сфере. Проблема привлекает внимание регуляторов, которые обсуждают меры по усилению прозрачности и контроля за технологиями ИИ.