Назад
Кибербезопасность и конфиденциальность

Claude Code взломали с помощью простого запроса на пересказ сайта

Habr
Advertisement468 × 90
Claude Code взломали с помощью простого запроса на пересказ сайта

Исследователь безопасности Иоганн Ребергер продемонстрировал уязвимость в инструменте Claude Code (модель Opus 5), работающем в режиме Auto Mode. Атака начинается с безобидной просьбы пересказать содержимое веб-страницы. В процессе выполнения задачи агент, пытаясь действовать безопасно, самостоятельно пишет Python-код для обработки данных, что приводит к выполнению вредоносных команд на машине пользователя. В ходе эксперимента атака успешно срабатывала в 3–4 случаях из 5. Этот кейс подчеркивает критическую проблему безопасности: даже если агент отказывается от выполнения подозрительных бинарных файлов, он может быть обманут через цепочку логических действий, которые в совокупности создают угрозу. Исследование показывает, что безопасные на первый взгляд действия ИИ-агентов не гарантируют защиту, если среда выполнения контролируется атакующим. Это ставит под сомнение надежность автономных инструментов разработки, использующих LLM для взаимодействия с внешними ресурсами.

This is a summary. Read the full article at the original source:

Habr
Advertisement468 × 90
Share
Кибербезопасность и конфиденциальность

Похожие

Исследователи безопасности и технические обозреватели из Gamers Nexus и Level1Techs выразили обеспокоенность по поводу политики конфиденциальности тел…

Ars Technica
Advertisement970 × 250