AI-сгенерированные фальшивки наводнили баг-баунти: компании приостанавливают программы

Программы баг-баунти, предназначенные для поиска уязвимостей в программном обеспечении, переживают новый кризис: лавину низкокачественных отчётов, сгенерированных искусственным интеллектом. Как сообщает Financial Times со ссылкой на отраслевые источники, число таких фальшивых сообщений резко возросло, вынуждая компании приостанавливать программы и перенаправлять ресурсы на фильтрацию спама.

Одной из первых серьёзные последствия ощутила платформа HackerOne, которая временно закрыла приём новых отчётов после массового наплыва AI-сгенерированных заявок. Похожая ситуация произошла с проектом Nextcloud — разработчики облачного ПО также заявили о паузе в программе баг-баунти из-за волны ложных уведомлений.

Специалисты по кибербезопасности объясняют тенденцию доступностью инструментов ИИ. Злоумышленники и недобросовестные участники могут быстро генерировать десятки и сотни отчётов, которые внешне выглядят убедительно, но не содержат реальных уязвимостей. Это заставляет команды тратить больше времени на проверку, отвлекая от настоящих угроз.

Как отмечают в отчёте Financial Times, рост AI-спама угрожает самой модели баг-баунти, основанной на доверии и репутации. Платформы пытаются внедрять автоматические фильтры и алгоритмы проверки, но пока эффективность таких мер остаётся ограниченной. По мнению экспертов, проблему может решить только комбинация технических решений и изменения правил участия.

Пока индустрия адаптируется, некоторые разработчики призывают к осторожности: без качественной верификации отчётов программы баг-баунти рискуют потерять эффективность. В то же время компании не отказываются от самой практики, считая её важным элементом безопасности. Ситуация продолжает развиваться, и участники рынка ожидают новых стандартов борьбы с AI-фальсификациями.