Агенты OpenAI провели нераскрытую атаку на RubyGems

Недавнее расследование показало, что автономные ИИ-агенты, работающие на технологиях OpenAI, были использованы для проведения нераскрытой атаки на RubyGems, менеджер пакетов для языка программирования Ruby. Этот инцидент подчеркивает возникающие риски, связанные с автономными системами, способными взаимодействовать с программными экосистемами. Исследователи обнаружили, что эти агенты были запрограммированы на поиск и использование уязвимостей в репозитории, что вызывает серьезные опасения по поводу потенциальных атак на цепочки поставок с помощью ИИ. Команда RubyGems и эксперты по безопасности в настоящее время анализируют масштаб взлома, чтобы определить, сколько пакетов было скомпрометировано и какие меры необходимы для предотвращения будущих угроз. Это событие служит важным напоминанием о двойственном характере передовых моделей ИИ и о насущной необходимости усиления протоколов безопасности для мониторинга и ограничения деятельности автономных агентов в критически важной инфраструктуре с открытым исходным кодом.