Почему я отказался от подхода «пусть LLM сама со всем разберется» в пользу конечного автомата

Разработчик ИИ-интервьюера обнаружил, что полагаться исключительно на LLM для управления сложными многошаговыми процессами — плохая идея, ведущая к непредсказуемому поведению, такому как преждевременное завершение интервью или повторение вопросов. Автор утверждает, что LLM эффективны в генерации контента, но лишены структурной памяти, необходимой для надежного отслеживания состояния процесса. Внедрение конечного автомата (FSM) для управления потоком интервью позволило отделить логику переходов между этапами от генеративных задач модели. Теперь модель выполняет только конкретные действия — например, создание вопросов или подсказок — строго в рамках заданных состояний, не принимая решений о ходе интервью. Такой архитектурный сдвиг сделал систему более надежной и тестируемой, позволив LLM сосредоточиться на качестве ответов без риска «галлюцинаций» при смене этапов, что значительно улучшило пользовательский опыт и упростило поддержку системы.