Отслеживание затрат на каждого агента для мультиагентного ИИ в AWS

В статье рассматривается критическая проблема наблюдаемости в мультиагентных ИИ-системах, где традиционный мониторинг часто не замечает скрытые финансовые потери. Даже если агентный рабочий процесс дает успешный результат, он может потреблять избыточное количество токенов или выполнять лишние циклы рассуждений, что увеличивает расходы. Автор демонстрирует, как реализовать отслеживание затрат на каждого агента в AWS с помощью Traccia SDK и OpenTelemetry. Инструментируя спаны специфическими атрибутами, такими как количество токенов, идентификатор агента и стоимость в долларах, разработчики получают детальную видимость того, какие агенты или инструменты увеличивают расходы. Руководство предлагает практический подход «только для чтения» к созданию команды «AWS Account Investigator», позволяя выявлять и устранять скрытые перерасходы без изменения производственной инфраструктуры. Эта методология выходит за рамки простого мониторинга работоспособности, позволяя командам контролировать бюджеты и обнаруживать регрессии производительности в сложных автономных ИИ-системах.