Почему OpenAI отсутствует в общеотраслевой инициативе Nvidia по борьбе с опасными ИИ-агентами

OpenAI официально не поддержала новую платформу Nvidia Open Agent Safety Platform, направленную на снижение рисков, связанных с неконтролируемыми ИИ-агентами. Несмотря на отсутствие компании в списке публичных участников коалиции, источники сообщают, что OpenAI ведет частное сотрудничество с Nvidia. Это указывает на то, что компания предпочитает решать вопросы безопасности в закрытом формате, а не через публичные инициативы. Проект Nvidia призван разработать протоколы, предотвращающие выполнение автономными агентами несанкционированных или вредоносных действий. По мере ускорения развития автономных систем ИИ, отрасль стремится к созданию единых стандартов безопасности, чтобы гарантировать работу агентов в рамках установленных параметров. Тем не менее, конкуренция и различия в подходах к безопасности продолжают влиять на то, как крупные игроки участвуют в подобных коллективных усилиях по обеспечению защиты.