Հեշ-շղթան ապացուցում է հաջորդականությունը, սակայն չորս հարձակումներ ապացուցում են, որ դա բավարար չէ

Սեմ Լաբեն ուսումնասիրում է AI գործակալների համակարգերում հաջորդականության և վավերականության միջև եղած կարևոր տարբերությունը: Թեև հեշ-շղթաները և DAG-երը արդյունավետորեն ապացուցում են իրադարձությունների հաջորդականությունը, դրանք չեն երաշխավորում գործողություններ կատարող գործակալների ամբողջականությունը: Հոդվածում մանրամասն ներկայացված են չորս հիմնական «դարպասային հարձակումներ»՝ ինքնաստուգում, վերաշարադրված քննություններ, մանիպուլյացիոն հարցումներ և կեղծված վճիռներ, որոնք օգտագործում են հաջորդական գրանցման և իրական ստուգման միջև եղած բացը: NoireBox-ի վերականգնման շերտի վրա այս հարձակումները փորձարկելով՝ հեղինակը ցույց է տալիս, թե ինչպես կրիպտոգրաֆիկ վերահսկողությունը և Unix-անման սկզբունքների խիստ պահպանումը կարող են նվազեցնել այդ խոցելիությունը: Հոդվածը շեշտում է, որ աուդիտի մատյանները պետք է ծառայեն որպես պարտականության ապացույց, այլ ոչ թե որպես պատասխանատվությունից խուսափելու վահան: Իտերատիվ թեստավորման և սխեմաների թարմացումների միջոցով նախագիծը հաջողությամբ փակել է անվտանգության բացերը՝ ապացուցելով, որ վստահելի շերտերը էական են կրիտիկական ենթակառուցվածքներում աշխատող AI գործակալների համար:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
DarkSword «P7». iOS-ի արտահոսած էքսպլոյտների շղթան այժմ գողանում է կրիպտոդրամապանակների տվյալները
Անվտանգության հետազոտողները վերլուծել են DarkSword էքսպլոյտների շղթայի նոր տարբերակը՝ «P7» անվանումով, որը թիրախավորում է iOS 18.4–18.7 օգտատերերին: Ն…
Արդյո՞ք VPN-ը պաշտպանում է ձեր գաղտնիությունը ChatGPT կամ Claude օգտագործելիս:
TechRadar-ի վերջին հոդվածը պարզաբանում է VPN-ի օգտագործման սահմանափակումները ChatGPT և Claude արհեստական բանականության ծառայությունների հետ աշխատելիս:…
Bitwarden-ը՝ գաղտնաբառերի կառավարման հայտնի բաց կոդով լուծումը, վերջերս անդրադարձել է իր երկակի լիցենզավորման մոդելի վերաբերյալ համայնքի քննարկումների…


