Нейропрокси для агентов. Часть 1: GigaChat

Автор статьи делится опытом интеграции российской языковой модели GigaChat от Сбера в «агентный комбайн» Hermes Agent. Ранее в качестве основной LLM использовался DeepSeek, однако возникла потребность в экспериментах с локальными решениями, обладающими поддержкой русского языка и соответствующими требованиям российской юрисдикции. В процессе настройки выяснилось, что простая замена ключа API в конфигурационном файле не является достаточной для корректной работы системы. Автор подробно описывает технические сложности, с которыми он столкнулся при попытке подружить сторонний агентный фреймворк с проприетарным API GigaChat. Статья представляет собой первую часть цикла, посвященного созданию универсального нейропрокси, который позволил бы агентам бесшовно переключаться между различными моделями, нивелируя различия в их API и форматах ответов. Материал будет полезен разработчикам, работающим с агентными системами и стремящимся к диверсификации используемых LLM.