Почему ИИ продолжает совершать одни и те же ошибки в коде — и как обучение через «боль» дает ему мудрость

Современные ИИ-ассистенты для программирования часто преуспевают в учебных задачах, но терпят неудачу в реальных производственных средах, что называют «парадоксом отличника-стажера». Поскольку модели обучаются на «идеальных» данных, им не хватает интуиции для обработки сложных пограничных случаев. Рэндал Л. Шварц предлагает решение под названием «Синтетические шрамы», которое наделяет ИИ-агентов искусственными соматическими маркерами. Кодируя прошлые неудачи — «раны» — в структурированный формат, включающий «ловушку» и «постоянный рефлекс», разработчики заставляют ИИ распознавать и избегать повторяющихся ошибок. Этот процесс, поддерживаемый механизмом «неокортикального повтора», позволяет агентам учиться на институциональной истории, а не страдать от постоянной амнезии. Эмпирические тесты на 51 сложной задаче показали, что эта архитектура исключила повторные сбои и значительно повысила успех с первой попытки, фактически давая ИИ мудрость опытных инженеров, извлекших уроки из своих ошибок.