Պատասխանի երկարության ստուգումը գոյություն ուներ երեք շաբաթ։ Մարդու կողմից նշված խմբաքանակը երբեք չի հասել դրան. սխալ ուղու պաշտպանություն

Dev.to-ի վերջին հոդվածը մանրամասնում է AI-ի վրա հիմնված ավտոմատ պատասխանների համակարգում առկա կարևոր բացթողումը: Երեք շաբաթ շարունակ պատասխանների բազմազանությունն ապահովող ստուգման մեխանիզմը չի հայտնաբերել խնդրահարույց խմբաքանակները, քանի որ այն սխալմամբ սահմանափակված է եղել միայն մեկ հատուկ ստուգման ուղով: Թեև համակարգը կատարել է անկախ վերանայումներ, այն չի ունեցել խմբաքանակի մակարդակով վերահսկողություն, ինչը թույլ է տվել AI-ին ստեղծել միատեսակ երկար պատասխաններ: Հեղինակը բացատրում է, որ լուծումը վավերացման տրամաբանությունը անմիջապես «ուղարկելու» (send) ուղու վրա տեղափոխելն էր՝ ապահովելով, որ յուրաքանչյուր ելքային հաղորդագրություն ստուգվի՝ անկախ նրանից, թե ինչպես է այն կազմվել: Այս միջադեպը ընդգծում է ճարտարապետական սկզբունքը. անվտանգության պաշտպանիչները պետք է տեղադրվեն կատարման վերջնական կետում՝ կողմնակի ազդեցության պահին, այլ ոչ թե հիմնվեն նախնական ենթադրությունների վրա: