Один MCP-сервер для шести бэкендов вывода AWS: Bedrock, SageMaker, GPU, Inferentia и Trainium

В этой статье представлен единый сервер Model Context Protocol (MCP), предназначенный для управления шестью различными бэкендами вывода AWS, включая Amazon Bedrock, SageMaker и экземпляры EC2 на базе GPU, Inferentia2 и чипов Trainium. Используя один MCP-сервер на Python, разработчики могут взаимодействовать с этими средами через стандартизированный набор из восьми инструментов. Сервер упрощает сложные инфраструктурные задачи, такие как перечисление активных ресурсов, проверка состояния, чтение логов и выполнение команд завершения работы, непосредственно из чат-интерфейса. Благодаря использованию AWS SSM Run Command решение устраняет необходимость в открытых входящих портах, повышая безопасность при сохранении операционного контроля в нескольких регионах. Этот подход обеспечивает последовательный рабочий процесс для управления выводом высокопроизводительных моделей, позволяя пользователям эффективно отслеживать биллинг и метрики производительности без ручного вмешательства в терминале. Проект является открытым исходным кодом и служит практическим руководством по интеграции развертывания ИИ-моделей с современными агентскими рабочими процессами.