Я доверил сайт ИИ-агентам: аудит выявил 25 бесполезных правок и 4 галлюцинации

Автор статьи делится опытом использования ИИ-агентов для полного цикла разработки и поддержки веб-сайта. За время работы было совершено более 200 коммитов, однако основной проблемой стало не написание кода, а его верификация. Скорость генерации правок ИИ значительно превышает возможности человека по их проверке, что создает риски внедрения некачественного или нерабочего кода. В ходе аудита 111 предложенных агентами изменений выяснилось, что 25 из них были бесполезны, а 4 оказались чистой выдумкой (галлюцинацией). Автор подчеркивает, что автоматизация без встроенного жесткого контроля качества приводит к ситуации, когда код лишь «выглядит рабочим», скрывая потенциальные ошибки. Статья поднимает важный вопрос о необходимости изменения процессов разработки при переходе на автономные системы, где узким местом становится именно человеческий надзор за результатами деятельности нейросетей.