AI կառավարման հինգ «կույր կետերը», որոնք անտեսվում են

Dev.to-ում հրապարակված հոդվածում ծրագրավորող Կիրոնով Լազիզը վերլուծում է AI-ի կառավարման ներկայիս համակարգերի քննադատական բացերը: Հեղինակը պնդում է, որ ստանդարտ վահանակներն ու գրանցամատյանները բավարար չեն, քանի որ խնդիրները հաճախ առաջանում են համակարգի շերտերի միջև: Բացահայտված հինգ «կույր կետերն» են՝ ստվերային AI-ն, տվյալների արտահոսքը հուշումների (prompt) մակարդակում, գործակալների լիազորությունների սահմանափակումների բացակայությունը, ժամկետանց լիազորությունների խնդիրը և աուդիտի ոչ վստահելի հետքերը: Լազիզն առաջարկում է անցնել ակտիվ պաշտպանության՝ օգտագործելով գաղտնագրված թույլտվություններ և մուտքային դարպասների մակարդակում տվյալների զտում: Հեղինակը նաև ներկայացնում է Provenza բաց կոդով նախագիծը, որը նպատակ ունի լուծել այս անվտանգության մարտահրավերները՝ AI գործողությունների ծագումը դարձնելով ստուգելի: AI կառավարումը որպես ցանցային անվտանգության խնդիր դիտարկելը թույլ է տալիս ավելի արդյունավետ պաշտպանել ինքնավար համակարգերը չարտոնված գործողություններից: