Anthropic: ИИ уже разрабатывает ИИ, люди замедляют прогресс

Компания Anthropic, разработчик ИИ-модели Claude, опубликовала отчёт «When AI Builds Itself», в котором утверждает, что искусственный интеллект уже активно участвует в создании будущих ИИ-систем. Согласно документу, Claude теперь автором более 80% кода, который попадает в основную кодовую базу компании.

Этот показатель резко вырос по сравнению с предыдущими годами. Инженеры Anthropic, как отмечается в отчёте, выпускают примерно в восемь раз больше кода, чем в 2024 году. При этом ключевую роль в ускорении сыграло само использование ИИ-инструментов, которые берут на себя рутинные задачи программирования.

Anthropic подчёркивает, что ИИ уже помогает строить более совершенные модели — и в перспективе может даже участвовать в проектировании собственных преемников. Однако, по мнению компании, главным ограничением сейчас становится человек: люди не успевают проверять и утверждать результаты работы ИИ, что замедляет общий прогресс.

В отчёте также отмечается, что Claude используется для проведения всё более сложных исследовательских задач, выходящих за рамки простого написания кода. Это позволяет Anthropic быстрее экспериментировать с новыми подходами к обучению нейросетей.

Тезис о том, что человеческое участие становится узким местом, вызвал дискуссии в профессиональном сообществе. Некоторые эксперты указывают на риски чрезмерной автономии ИИ, другие видят в этом закономерный этап развития технологии.

Anthropic не раскрывает конкретные планы по дальнейшей автоматизации, но даёт понять, что компания намерена продолжать движение в сторону всё более самостоятельных систем. Вопрос о том, насколько это безопасно и этично, остаётся открытым.