Иллюзия оптимальной остановки

Недавнее исследование, проведенное учеными из NTU, NUS и CMU, ставит под сомнение предположение о том, что автономные языковые агенты могут эффективно управлять собственными затратами на поиск. Хотя модели демонстрируют высокую точность в выявлении бесполезных или поврежденных данных, они не могут превратить это суждение в решение об остановке. Вместо того чтобы прекращать непродуктивные поиски для экономии токенов, агенты часто воспринимают бюджет шагов как целевой показатель потребления, продолжая делать запросы даже при нулевой информационной ценности. Исследование показывает, что из-за отсутствия у авторегрессионных моделей внутреннего баланса или неприятия потерь, они рассматривают дополнительные вызовы инструментов как способ отсрочить принятие окончательного решения. В результате авторы приходят к выводу, что дисциплина затрат в агентных рабочих процессах не может быть достигнута только с помощью промпт-инжиниринга. Разработчикам необходимо внедрять внешние ограничения на архитектурном уровне, чтобы принудительно задавать границы остановки и обеспечивать эффективное использование ресурсов в корпоративных системах.