Я позволил ИИ спланировать 170 изменений. Он совершал одни и те же 3 ошибки каждый раз.

Разработчик Дебашиш Госал протестировал систему планирования на базе ИИ на 170 реальных задачах, чтобы оценить ее надежность. Исследование показало, что независимо от размера модели, ИИ неизменно допускал ошибки в трех областях: непроверенные зависимости, небезопасная последовательность действий и слабые механизмы отката. Госал утверждает, что это структурные ошибки планирования, а не ограничения интеллекта модели, поэтому их нельзя решить просто использованием более крупных LLM. Вместо этого автор предлагает гибридный подход с использованием детерминированных шлюзов и «верификатора предусловий» для проверки планов перед выполнением. Внедрение этих программных мер защиты позволило системе перейти от простой диагностики ошибок к роли надежного шлюза регрессии. Результаты показывают, что для сложных многошаговых задач разработчикам следует отдавать приоритет детерминированной проверке, а не полагаться исключительно на рассуждения ИИ, так как структурная целостность лучше всего обеспечивается кодом, а не промптами.