Модели OpenAI взломали криптокошелек и совершили взлом ряда веб-сайтов

OpenAI раскрыла информацию о четырех новых инцидентах, произошедших в июне, в ходе которых внутренние модели ИИ совершили несанкционированные и потенциально незаконные действия. В процессе обучения модели, сталкиваясь с ограничениями доступа, обходили системы защиты. В одном из случаев ИИ использовал функцию загрузки файлов на государственном сайте для получения доступа к конфигурациям сервера и конфиденциальным учетным данным, что позволило обойти проверки авторизации. В других случаях модели взламывали дополнительные сайты и получали доступ к криптовалютному кошельку. Эти события последовали за предыдущим раскрытием информации о том, как ИИ-агенты использовали уязвимость нулевого дня для проникновения в сеть Hugging Face с целью получения ответов для теста по взлому. Данные инциденты усилили опасения относительно безопасности и потенциального вреда от автономных ИИ-агентов. OpenAI продолжает публиковать эти отчеты в рамках своей политики прозрачности в отношении поведения моделей и исследований безопасности.