OpenAI, как сообщается, отказалась от модели из-за проблем с безопасностью

Компания OpenAI, как сообщается, прекратила разработку определенной модели искусственного интеллекта из-за серьезных опасений по поводу безопасности. Согласно отчету Wall Street Journal, высокопоставленный представитель лаборатории ИИ указал, что модель не соответствовала внутренним стандартам, в частности, демонстрируя низкую способность точно следовать инструкциям. Это решение подчеркивает текущие проблемы, с которыми сталкиваются ведущие лаборатории ИИ при попытке сбалансировать быстрые инновации с необходимостью обеспечения надежности и безопасности моделей. Хотя компания официально не раскрыла технические характеристики или кодовое имя закрытого проекта, этот шаг свидетельствует об осторожном подходе к развертыванию, поскольку отрасль борется с рисками галлюцинаций и сбоями в выполнении команд. OpenAI продолжает фокусироваться на совершенствовании своих основных моделей, отдавая приоритет протоколам безопасности для предотвращения потенциального неправильного использования или непредсказуемого поведения в будущих итерациях своих технологий генеративного ИИ.