Фейковый репозиторий OpenAI на Hugging Face собрал 244 тыс. загрузок и украл пароли

Злоумышленники создали поддельный репозиторий на платформе Hugging Face, который имитировал официальную модель OpenAI Privacy Filter. Репозиторий быстро набрал популярность и занял первое место в разделе трендов, собрав около 244 тыс. загрузок и 667 отметок «Нравится» менее чем за 18 часов.

OpenAI выпустила модель Privacy Filter в конце апреля — это небольшая модель с открытыми весами, предназначенная для обнаружения и автоматического удаления персонально идентифицируемой информации из текста. Модель была размещена на Hugging Face под лицензией Apache 2.0 и быстро привлекла внимание разработчиков.

Поддельный репозиторий, по данным издания Decrypt, содержал многоступенчатый инфостилер (программа для кражи информации). Вредоносное ПО состояло из шести этапов и было нацелено на устройства под управлением Windows. Оно собирало пароли из браузеров, токены Discord, ключи криптовалютных кошельков и данные SSH-подключений, после чего незаметно отправляло все атакующим на серверы.

Администрация Hugging Face удалила вредоносный репозиторий после того, как он был обнаружен. Точное количество пострадавших пользователей не раскрывается, однако масштаб загрузок указывает на серьезную угрозу. Эксперты рекомендуют проверять подлинность репозиториев, обращая внимание на официальные аккаунты разработчиков и верификационные значки.

Подобные инциденты подчеркивают риски использования публичных платформ для машинного обучения. Мошенники все чаще используют доверие сообщества к популярным моделям, чтобы распространять вредоносное ПО. В данном случае преступники воспользовались интересом к новой модели OpenAI для атаки на пользователей.