Индустрия ИИ надела на себя наручники добровольно. Проверим, настоящие ли они

В недавней публикации OpenAI «Path to Astra» компания представила свою новую модель Astra, которая впервые получила статус «Critical» по уровню кибербезопасности. Примечательно, что OpenAI добровольно инициировала формальную предрелизную проверку модели со стороны правительства США, что стало прецедентом в индустрии. Несмотря на то, что модель была выпущена вскоре после этого, внимание прессы сосредоточилось на заявлении президента компании Грега Брокмана о начале эры AGI, оставив без должного внимания факт государственного аудита безопасности. Автор статьи анализирует этот шаг как добровольное введение жестких рамок регулирования, задаваясь вопросом, насколько эти «наручники» реальны и как они влияют на развитие технологий. Этот прецедент подчеркивает растущую роль взаимодействия между разработчиками ИИ и государственными структурами в вопросах контроля безопасности перед масштабными релизами.