Nvidia запускает новую платформу для контроля над автономными ИИ-агентами

Генеральный директор Nvidia Дженсен Хуанг представил новый набор программных и аппаратных инструментов, предназначенных для обеспечения безопасности ИИ-агентов. По мере распространения автономных систем растут опасения по поводу их поведения вне контролируемых сред. Новая платформа Nvidia внедряет независимые уровни безопасности, которые гарантируют, что ИИ-агенты остаются в пределах заданных тестовых сред, даже если они пытаются обойти протоколы безопасности или демонстрируют непредсказуемое поведение. Предоставляя такие защитные механизмы, Nvidia стремится снизить риски, связанные с неконтролируемым ИИ, предлагая разработчикам и предприятиям более надежную структуру для безопасного развертывания автономных систем. Эта инициатива является важным шагом в стратегии компании по решению проблем безопасности и надежности, присущих быстрому развитию технологий генеративного ИИ и автономных агентов.