Известный хакер Джордж Хотц предупредил о рисках AI-агентов для программирования

Джордж Хотц, известный взломщик iPhone и PlayStation 3, опубликовал в блоге статью, в которой назвал внедрение AI-агентов для написания кода «одной из самых дорогостоящих ошибок в истории этой области». В течение шести месяцев он тестировал агентов на реальных проектах и пришёл к выводу, что они генерируют код низкого качества, который трудно выявить.

Основной аргумент Хотца: сильные специалисты могут заметить плохой код, созданный AI, но слабые инженеры — нет. При этом именно слабые инженеры используют агентов чаще, производя в десять раз больше кода, что в итоге снижает общее качество программного обеспечения в масштабах организаций.

Статья Хотца появилась через пять дней после того, как Андрей Карпатый присоединился к команде pre-training Anthropic с противоположной точкой зрения. Это демонстрирует раскол среди серьёзных инженеров по вопросу реальной эффективности AI-агентов в программировании.

Хотц известен тем, что в 17 лет взломал iPhone, а затем и PlayStation 3, после чего Sony подала на него в суд. Его нынешняя позиция основана на практическом опыте, а не на теории.

По мнению экспертов, предупреждение Хотца актуально для крупных IT-компаний, которые активно внедряют AI-инструменты. Если их не контролировать, качество кода может резко упасть, а исправление накопившихся ошибок потребует огромных ресурсов.