Գործակալները չեն կարողանում տարբերել անվտանգ և վտանգավոր գործողությունները

Dev.to-ում հրապարակված վերջին հոդվածը ընդգծում է ինքնավար AI գործակալների խոցելիությունը՝ նրանց անկարողությունը՝ գիտակցելու իրենց գործողությունների հետևանքները: Մինչ մարդիկ ունեն ռիսկի ինտուիտիվ զգացում, AI գործակալները ինտերֆեյսի բոլոր գործողությունները դիտարկում են որպես հավասարազոր առաջադրանքներ: Քանի որ այս գործակալները գործում են օրինաչափությունների, այլ ոչ թե ազդեցության գիտակցման հիման վրա, նրանք կարող են պատահաբար կատարել աղետալի հրամաններ, օրինակ՝ ջնջել տվյալների բազան: Հեղինակը պնդում է, որ գործակալի «դատողության» վրա հույս դնելը բավարար չէ: Փոխարենը, մշակողները պետք է ներդնեն կառուցվածքային պաշտպանիչ մեխանիզմներ, ներառյալ թույլտվությունների խիստ համակարգեր և մարդկային հաստատման պարտադիր ընթացակարգեր զգայուն գործողությունների համար: Քանի որ AI գործակալները ստանում են ավելի լայն հասանելիություն դեպի կորպորատիվ գործիքներ, ոլորտը պետք է կենտրոնանա ոչ թե գործակալների ինտելեկտի բարելավման, այլ անվտանգ համակարգերի ստեղծման վրա՝ կանխելու համար չվերահսկվող, բարձր ռիսկային գործողությունները: