У вашего ИИ-агента нет коллег

В этой статье автор исследует проблему неспособности ИИ-агентов учиться на своих ошибках, из-за чего они часто попадают в циклы неудачных вызовов инструментов. Столкнувшись с общей ошибкой, например 422, агент часто прибегает к слепым повторным попыткам, что обусловлено данными обучения модели. Автор утверждает, что простые инструкции в системном промпте не помогают, так как агенту не хватает контекста для различения временных и постоянных сбоев. Для решения проблемы предлагается структурированный подход к отслеживанию ошибок, включающий нормализацию логов, их хеширование для идентификации и использование статистических методов, таких как оценка Уилсона, для анализа вероятности успеха. В конечном итоге автор задается вопросом, являются ли сбои ИИ-агентов общими для сообщества разработчиков или изолированными инцидентами, призывая к коллективным усилиям по выявлению и документированию повторяющихся системных ошибок.