Амнезия и дежавю: как наши ИИ-агенты ломались после каждой перезагрузки (и как мы это исправили)

Разработчики среды выполнения агентов ApowerB поделились опытом решения проблем надежности ИИ-агентов в продакшене. Они выделили два основных типа сбоев: «амнезия», при которой агенты теряли контекст после перезагрузки из-за хранения сессий в оперативной памяти, и «дежавю», когда агенты слепо повторяли действия с побочными эффектами, например, отправку писем. Для борьбы с амнезией команда перенесла управление сессиями и памятью в базу данных PostgreSQL. Чтобы исправить «дежавю», они внедрили строгий протокол безопасности, записывающий каждый вызов инструментов до их выполнения. Отслеживая эти вызовы, система теперь может отличать задачи, безопасные для повторного запуска, от тех, что уже взаимодействовали с внешним миром. Этот подход гарантирует, что агенты могут восстанавливаться после сбоев без дублирования критических операций, обеспечивая надежную основу для развертывания ИИ-решений, где безопасность и возможность аудита важнее слепой автоматизации.