OpenAI внедрила ИИ-красную команду GPT-Red для усиления защиты GPT-5.6 от инъекций

Компания OpenAI объявила о внедрении автоматизированной системы GPT-Red, предназначенной для выявления уязвимостей в языковых моделях до их релиза. Название отсылает к практике красного тестирования (red teaming), когда специалисты пытаются взломать систему, чтобы обнаружить слабые места.

Как сообщается в блоге OpenAI от 15 июля 2026 года, GPT-Red уже использовался при подготовке модели GPT-5.6. С его помощью инженеры смогли сократить количество сбоев на одном из самых сложных бенчмарков по устойчивости к атакам с внедрением промптов (prompt injection).

Автоматический «красный отряд» не заменяет, а дополняет работу людей-тестировщиков и сторонние проверки безопасности. OpenAI подчеркивает, что многоуровневый подход позволяет выявлять больше уязвимостей на ранних стадиях.

Атаки с внедрением промптов считаются одной из главных угроз для больших языковых моделей. Злоумышленники могут заставить ИИ выполнить нежелательные команды, обойдя встроенные ограничения. Усиление защиты GPT-5.6 снижает такие риски.

По данным компании, система GPT-Red показала эффективность в поиске неочевидных уязвимостей, которые могли остаться незамеченными при ручном тестировании. Разработчики планируют масштабировать использование автоматизированного красного тестирования для будущих моделей.

Нововведение является частью стратегии OpenAI по повышению безопасности ИИ-систем без замедления темпов разработки. Компания продолжает комбинировать автоматические и ручные методы проверки.