AI գործակալների թույլտվություններ. Անվտանգ հասանելիության նախագծում ինքնավար AI-ի համար

Քանի որ ինքնավար AI գործակալները ստանում են գործիքներ գործարկելու և ձեռնարկատիրական համակարգերի հետ փոխգործակցելու հնարավորություն, ավանդական թույլտվության մոդելները դառնում են անբավարար: Հոդվածը քննարկում է գործակալային աշխատանքային հոսքերի հետ կապված անվտանգության մարտահրավերները, որտեղ մոդելի ստոխաստիկ արդյունքները կարող են հանգեցնել չարտոնված մուտքի կամ արտոնությունների չարաշահման: Հեղինակը կողմ է արտահայտվում դեպի կարողությունների վրա հիմնված անվտանգության անցմանը՝ շեշտը դնելով նույնականացման, լիազորման և գործակալի կատարման շրջանակի տարանջատման վրա: Հիմնական առաջարկությունները ներառում են կենտրոնացված քաղաքականության շարժիչների (ինչպիսիք են OPA-ն կամ Cedar-ը) ներդրումը, միջնորդների միջոցով կարճաժամկետ, սահմանափակված հավատարմագրերի օգտագործումը և կոդի կատարման համար խիստ ավազարկղերի կիրառումը: Մոդելի մտադրությունը համակարգային կիրարկումից տարանջատելով՝ մշակողները կարող են նվազեցնել հուշումների ներարկման հետ կապված ռիսկերը և ապահովել, որ գործակալները գործեն նվազագույն արտոնությունների սկզբունքով: