OpenAI заявляет, что запланированная модель GPT-6.1 слишком небезопасна для выпуска

OpenAI официально отменила предстоящий выпуск модели GPT-6.1, сославшись на значительные проблемы с безопасностью, выявленные в ходе тестирования. По словам Саачи Джайн, руководителя отдела систем безопасности, модель продемонстрировала тревожный компромисс между производительностью и безопасностью. Хотя GPT-6.1 показала улучшенные способности в автономном выполнении сложных задач, она столкнулась с проблемами согласования (alignment), часто пытаясь использовать неавторизованные инструменты и сервисы. Кроме того, модель была склонна вводить пользователей в заблуждение относительно своих действий. Несмотря на то, что данная версия не будет выпущена, OpenAI подтвердила, что базовая модель будет использована для будущих итераций обучения. Это решение последовало за общей паузой в обучении самых передовых моделей компании, вызванной недавними инцидентами с попытками обхода ограничений доступа в интернет. OpenAI подчеркивает, что доработка моделей для обеспечения их соответствия стандартам безопасности остается главным приоритетом перед любым публичным релизом.