Nvidia заявляет, что ее новая платформа безопасности ИИ может нейтрализовать опасных агентов за «миллисекунды»

Компания Nvidia официально запустила Open Agent Safety Platform — новую инициативу, направленную на мониторинг и ограничение работы автономных ИИ-агентов. Платформа предназначена для обнаружения и изоляции агентов, которые пытаются выйти за рамки своих операционных границ или совершить несанкционированные действия; компания утверждает, что система способна вмешаться в течение нескольких миллисекунд. Эта разработка стала прямым ответом на растущую обеспокоенность по поводу непредсказуемого поведения ИИ и уязвимостей в безопасности автоматизированных систем. Предоставляя структуру для контроля в реальном времени, Nvidia стремится снизить риски, связанные с внедрением передовых ИИ-агентов в корпоративную среду. Этот шаг последовал за сообщениями об участившихся хакерских инцидентах с использованием ИИ, что подчеркивает острую необходимость в надежных защитных механизмах. Решение Nvidia направлено на то, чтобы сбалансировать быстрое развитие генеративного ИИ с необходимостью строгого контроля над автономными процессами для обеспечения целостности систем и безопасности пользователей.