Как отлаживать то, чему позволено ошибаться?

В недавней статье на Dev.to Пьер-Лоран Медори исследует сложности отладки автономных агентов и систем на базе LLM, где ошибки являются допустимой частью процесса. Вместо того чтобы сразу винить модель, Медори предлагает систематический подход к отладке, приоритизирующий проверку инфраструктуры. Он вводит методологию, основанную на трех вопросах: что системе позволено делать неверно, какой слой вызвал ошибку и как долго она сохранялась. Ведя реестр инцидентов и внедряя детерминированные проверки, разработчики могут перестать полагаться на транскрипты, которые часто скрывают истину, и сосредоточиться на измерении реального поведения системы. Автор подчеркивает, что отладка недетерминированных систем требует фиксации инструментов проверки и тщательного аудита слоев данных, конфигурации и кэша, прежде чем ставить под сомнение сам промпт. В конечном итоге цель состоит не в том, чтобы исключить все ошибки, а в том, чтобы значительно сократить время их обнаружения.