Ձեր AI գործակալն ասաց, որ կանխել է հարձակումը. Ես ուսումնասիրել եմ 5 գործիքների կոդը, որոնք ստուգում են՝ արդյոք այն ստում է
AI գործակալները գնալով ավելի խոցելի են դառնում prompt injection հարձակումների նկատմամբ, որոնք կարող են շրջանցել անվտանգության ստանդարտ մեխանիզմները: Հինգ բաց կոդով անվտանգության գործիքների՝ Promptfoo-ի, OWASP ASRH-ի, RAMPART-ի, Pipelock-ի և ConsequenceBench-ի վերլուծությունը բացահայտում է ոլորտում առկա կարևոր բացը. տարբերությունը նրա միջև, թե ինչ է հայտարարում գործակալը, և իրական համակարգերում կողմնակի ազդեցությունների փաստացի ստուգման միջև: Թեև Promptfoo-ն արդյունավետ է նախնական տեղակայման փորձարկումների համար, իսկ Pipelock-ը տրամադրում է գործարկման ժամանակի վերահսկողություն, ներկայումս չկա միասնական լուծում, որն անկախ կերպով կստուգի իրական արդյունքները: Հեղինակը շեշտում է, որ անվտանգությունը պահանջում է անցում կատարել պարզ մոնիտորինգից դեպի համակարգային մակարդակի կողմնակի ազդեցությունների անկախ ստուգում: Վերլուծությունը ցույց է տալիս, որ թեև էկոհամակարգը զարգանում է, իրական համակարգերում գործողությունների ստուգման խնդիրը մնում է չլուծված:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Հաքեր, թե՞ ինժեներ. Ինչպե՞ս վերականգնել հարձակման շղթան տեխնոլոգիական ցանցում
Positive Technologies-ից Անտոն Կուտեպովը ներկայացնում է արդյունաբերական ցանցի վրա կիբերհարձակման ուսումնական սցենարի վերլուծությունը, որը վերարտադրվել…
Wired-ը հրապարակել է ուղեցույց, որը մանրամասնում է, թե ինչպես օգտատերերը կարող են օպտիմալացնել ծախսերը ExpressVPN-ին բաժանորդագրվելիս: Հոդվածում ներկա…
Անվտանգության փորձագետները մարդկային գործոնը համարում են բիզնեսի համար ամենամեծ սպառնալիքը
Kaseya-ի կողմից անցկացված հետազոտությունը, որին մասնակցել են ավելի քան 1100 ՏՏ մասնագետներ, ցույց է տալիս, որ մարդկային գործոնը մնում է կիբերանվտանգու…