Claude Code-ը կոտրվել է կայքը վերապատմելու պարզ խնդրանքի միջոցով

Անվտանգության հետազոտող Յոհան Ռեբերգերը ցույց է տվել Claude Code գործիքի (Opus 5 մոդել) խոցելիությունը, որն աշխատում է Auto Mode ռեժիմում: Հարձակումը սկսվում է կայքի բովանդակությունը վերապատմելու անմեղ խնդրանքով: Խնդիրը կատարելիս գործակալը, փորձելով գործել անվտանգ, ինքնուրույն գրում է Python կոդ՝ տվյալները մշակելու համար, ինչը հանգեցնում է օգտատիրոջ համակարգչում վնասակար հրամանների կատարմանը: Փորձի ընթացքում հարձակումը հաջողվել է 5 դեպքից 3-4-ում: Այս դեպքն ընդգծում է անվտանգության լուրջ խնդիր. նույնիսկ եթե գործակալը հրաժարվում է կասկածելի ֆայլեր գործարկել, նրան կարելի է մոլորեցնել տրամաբանական քայլերի շղթայի միջոցով, որոնք միասին սպառնալիք են ստեղծում: Հետազոտությունը ցույց է տալիս, որ AI գործակալների առաջին հայացքից անվտանգ թվացող գործողությունները երաշխիք չեն, եթե կատարման միջավայրը վերահսկվում է հարձակվողի կողմից: Սա կասկածի տակ է դնում ինքնավար մշակման գործիքների հուսալիությունը, որոնք օգտագործում են LLM-ներ՝ արտաքին ռեսուրսների հետ փոխազդելու համար: