Уязвимость типа prompt-injection обнаружена в ИИ-приложении Manus стоимостью $4 млрд

Агентная ИИ-платформа Manus стоимостью 4 миллиарда долларов оказалась уязвима для критической ошибки типа prompt-injection. Исследователи безопасности обнаружили, что приложение, предназначенное для автономной интерпретации и выполнения задач на основе внешних данных, не имеет необходимых фильтров безопасности для предотвращения злонамеренных манипуляций. Используя эту уязвимость, злоумышленники могут обойти протоколы безопасности, что может привести к несанкционированным действиям или утечке данных. Этот инцидент подчеркивает растущую проблему в индустрии ПО: по мере того как ИИ-приложения получают больше автономии и доступа к внешним средам, они становятся все более подверженными атакам через инъекции промптов. Эксперты предупреждают, что разработчикам необходимо внедрять более строгие методы проверки входных данных и песочницы для защиты агентных систем. Это открытие служит напоминанием о том, что быстрое развертывание ИИ-инструментов часто опережает создание надежных систем безопасности, оставляя платформы уязвимыми для киберугроз.