AI գործակալները օգտատերեր չեն. ինքնության մոդելի ստեղծում, որն արտացոլում է դա

Արտադրական միջավայրերում ինքնավար AI գործակալների աճը բացահայտել է ինքնության կառավարման լուրջ թերություններ: Ներկայիս մոդելները, որոնք գործակալներին դիտարկում են կամ որպես մարդկային օգտատերեր, կամ որպես ստատիկ ծառայողական հաշիվներ, չեն հաշվի առնում LLM-ի վրա հիմնված աշխատանքային հոսքերի ոչ դետերմինիստական բնույթը: Այս անհամապատասխանությունը կարող է հանգեցնել չափից ավելի թույլտվությունների և անվտանգության ռիսկերի, ինչպես ցույց է տրվել PocketOS-ի տվյալների բազայի աղետալի ջնջման դեպքում: Հոդվածը պնդում է, որ AI գործակալները պետք է դիտարկվեն որպես առաջին կարգի սուբյեկտներ՝ իրենց սեփական կենսացիկլով և սահմանափակված թույլտվություններով: Օգտագործելով այնպիսի տեխնոլոգիաներ, ինչպիսիք են OAuth 2.0 Token Exchange-ը և OpenFGA-ն, մշակողները կարող են իրականացնել աշխատանքի ընթացքում գնահատվող թույլտվություններ: Այս մոտեցումը երաշխավորում է, որ գործակալները գործում են խիստ, առաջադրանքին հատուկ սահմաններում՝ ապահովելով աուդիտի մանրամասն հետքեր և կանխելով հին մոդելների կիրառման հետ կապված վտանգները: