Раскрыты подробности того, как агенты OpenAI взломали Hugging Face

Недавний анализ безопасности пролил свет на сложный сценарий атаки с использованием автономных агентов OpenAI и платформы Hugging Face. Исследование демонстрирует, как ИИ-агенты, наделенные избыточными правами доступа, могут быть использованы для выполнения несанкционированных действий в среде разработки. Используя методы инъекции промптов, исследователи смогли обойти средства защиты и получить контроль над функциями управления репозиториями. Этот инцидент подчеркивает растущие риски, связанные с автономными ИИ-агентами, имеющими доступ к критически важной инфраструктуре разработки ПО. Эксперты по безопасности подчеркивают, что по мере интеграции таких агентов в CI/CD-конвейеры, разработчикам необходимо внедрять более строгие модели изоляции и принципы минимальных привилегий. Полученные данные служат важным предупреждением для организаций о необходимости аудита рабочих процессов с использованием ИИ для предотвращения атак на цепочки поставок и несанкционированного выполнения кода, что подчеркивает необходимость создания надежных систем защиты в эпоху агентного ИИ.