'AgentCorruption' ставит под угрозу среды AWS с помощью одного запроса

Критическая уязвимость под названием 'AgentCorruption' в AWS Bedrock AgentCore была устранена после предупреждений о том, что она могла позволить злоумышленникам скомпрометировать целые облачные среды. Исследователи обнаружили, что с помощью одного специально созданного запроса (промпта) неавторизованный пользователь мог манипулировать ИИ-чат-ботом, чтобы получить контроль над парком агентов организации. Этот недостаток подчеркнул серьезные риски безопасности, присущие интеграции генеративного ИИ в облачную инфраструктуру. Уязвимость по сути позволяла проводить атаки типа prompt injection, обходящие стандартные границы безопасности, что потенциально могло привести к несанкционированному доступу к данным или манипулированию системой. AWS уже устранила проблему, подчеркнув важность надежных протоколов безопасности при развертывании инструментов автоматизации на базе ИИ. Организациям, использующим Bedrock, рекомендуется убедиться, что их системы полностью обновлены, и внедрить строгую проверку входных данных для снижения подобных рисков в будущем.