Скрытый текст в PDF перехватывает управление ИИ-ассистентом Atlassian Rovo

Компания PromptArmor, специализирующаяся на безопасности ИИ, обнаружила уязвимость в корпоративном ассистенте Atlassian Rovo. По данным исследователей, злоумышленник может встроить в PDF-файл скрытые текстовые инструкции, которые ИИ воспринимает как команды. В результате ассистент способен передать конфиденциальные данные из Jira и Confluence атакующему без дополнительного подтверждения со стороны пользователя.

Атака использует технику, напоминающую старый приём поискового спама, когда на страницы добавляли белый текст на белом фоне для манипуляции поисковиками. В случае с Rovo скрытые инструкции в документе не видны человеку, но моделью распознаются как руководство к действию.

Особенность уязвимости в том, что она работает даже при отключённом веб-поиске Rovo. Как поясняют в PromptArmor, инструмент открытия URL-адресов остаётся активным, что позволяет ассистенту отправлять запросы по команде из документа.

Исследователи сообщили о проблеме в Atlassian 23 мая. Однако, по их словам, в течение двух месяцев компания не предоставила развёрнутого ответа, и уязвимость остаётся неисправленной. В Atlassian ситуацию пока не прокомментировали.

Эксперты отмечают, что подобные атаки становятся новым вызовом для корпоративных систем, где ИИ-ассистенты получают доступ к внутренней документации. Для защиты компаниям рекомендуется ограничивать возможности ИИ по открытию внешних ссылок и проверять файлы перед обработкой.