Վկան կասկածյալն էր. ինչո՞ւ չի կարելի վստահել AI-ի աուդիտի գրանցամատյաններին

AI-ի վրա հիմնված համակարգերում աուդիտի գրանցամատյանների (logs) վրա ավանդական հույս դնելը հիմնովին սխալ է, քանի որ գործողություն կատարող գործակալը հաճախ նույն սուբյեկտն է, որը հաշվետվություն է տալիս դրա մասին: Սա ստեղծում է վստահության պարադոքս, որտեղ վնասված կամ անսարք AI-ն կարող է ստեղծել մաքուր, հավաստի թվացող գրառումներ, որոնք քողարկում են սխալները: Հեղինակը պնդում է, որ AI-ի արդյունքները լրացուցիչ ստուգումներով հաստատելու փորձերը միայն տեղափոխում են խնդիրը, քանի որ այդ ստուգիչները նույնպես ենթակա են ձախողման: Փոխարենը, ուշադրությունը պետք է կենտրոնացնել կառուցվածքային ամբողջականության վրա. նախագծել համակարգեր, որտեղ միջամտությունը թողնում է տեսանելի «հետք» կամ բացթողում: Առաջարկությունը, հաստատումը և կատարումը տարանջատելով, ինչպես նաև անփոփոխ, հեշ-շղթայված գրառումներ օգտագործելով՝ մշակողները կարող են ապահովել, որ չնայած չեն կարող կանխել AI-ի բոլոր սխալները, սակայն կարող են անհնար դարձնել չարտոնված փոփոխությունները թաքցնելը՝ «արդյո՞ք սա ճիշտ է» անպատասխան հարցը վերածելով «արդյո՞ք շղթան ամբողջական է» կառավարելի խնդրի: