Մենք AI գործակալներին տվեցինք իրական գործիքներ, ապա հասկացանք, որ «գործելուց առաջ հարցրու»-ն բավարար չէ

Քանի որ AI գործակալները ստանում են իրական գործիքների հետ աշխատելու հնարավորություն՝ տվյալների բազաների փոփոխում, հաղորդագրությունների ուղարկում կամ աշխատանքային հոսքերի գործարկում, «գործելուց առաջ հարցրու» պարզ մոտեցումը դառնում է անբավարար: Հեղինակը պնդում է, որ մոդելին սեփական լիազորությունները որոշելու իրավունք տալը ստեղծում է վտանգավոր անորոշություն, քանի որ AI-ն կարող է դժվարանալ տարբերակել սովորական առաջադրանքները բարձր ռիսկային գործողություններից: Փոխարենը, մշակողները պետք է կիրառեն խիստ ճարտարապետական տարանջատում. AI-ն առաջարկում է գործողություն, սակայն համակարգային քաղաքականությունը որոշում է, թե արդյոք այն պահանջում է մարդու հաստատում՝ հիմնվելով դասակարգման վրա (կարդալ, գրել կամ կործանարար): Կիրառելով առաջադրանքների վրա հիմնված թույլտվություններ, աուդիտի հետքեր և անվտանգության «փակվող» մեխանիզմներ՝ մշակողները կարող են ստեղծել ավելի հուսալի համակարգեր: Վերջնական հաշվով, թույլտվությունների կառավարումը պետք է դառնա ծրագրային ճարտարապետության հիմնարար մասը: