Kong AI Gateway 2.0 в Google Cloud: защита GKE, Cloud Run и Vertex AI
Компания Kong анонсировала выпуск Kong AI Gateway 2.0, предназначенного для решения задач безопасности в экосистемах на базе ИИ в Google Cloud. Поскольку предприятия все чаще распределяют рабочие нагрузки между Google Kubernetes Engine (GKE) и Cloud Run, управление трафиком ИИ, включая вызовы LLM и серверы Model Context Protocol (MCP), требует более продвинутых инструментов, чем традиционное управление API. Версия 2.0 вводит специальные абстракции для провайдеров моделей ИИ, агентов и MCP-серверов, обеспечивая унифицированную аутентификацию и контроль затрат. Используя Google Cloud Workload Identity, шлюз устраняет необходимость в статических ключах сервисных аккаунтов при взаимодействии с Vertex AI. Решение также предоставляет такие функции, как ограничение частоты запросов на основе токенов, семантическая проверка промптов и безопасность взаимодействия между агентами. Этот релиз позволяет организациям поддерживать единый уровень безопасности в различных вычислительных средах, обеспечивая защиту и производительность ИИ-приложений.
This is a summary. Read the full article at the original source:
Dev.toПохожие
Южная Корея и США ведут переговоры о строительстве газовой электростанции в Техасе стоимостью $22 млрд для нужд ИИ-центров
По сообщениям, Южная Корея может инвестировать 22,3 миллиарда долларов в строительство газовой электростанции мощностью 6,3 ГВт в Энсинале, штат Техас…
Американские дальнобойщики выигрывают от бума ИИ-дата-центров, и именно поэтому они не разделяют мнение большинства американцев
Стремительное расширение дата-центров с ИИ по всей территории США обеспечило значительный, хотя и временный, экономический подъем для американской инд…
Почти 9 из 10 европейских компаний используют Cloudflare в качестве CDN
Недавний анализ европейской цифровой инфраструктуры выявил поразительный уровень концентрации рынка сетей доставки контента (CDN). Данные показывают,…