Ինչպե՞ս կանխել AI-ի կողմից անսարք կոդի վստահաբար ներդրումը (մեթոդ, որն իրականում աշխատում է)

Dev.to-ում հրապարակված հոդվածը քննարկում է AI-ի կողմից սեփական կոդը ստուգելու վտանգները: Հեղինակը նշում է, որ AI մոդելները հաճախ չափազանց վստահ են, ինչը հանգեցնում է անսարք կոդի ստեղծմանը, որը թեստերն անցնում է, բայց ձախողվում է իրական պայմաններում: Խնդիրը լուծելու համար առաջարկվում է «Հերքման դարպաս» (Refutation Gate) մոտեցումը: Այն ներառում է երեք հիմնական քայլ. օգտագործել առանձին, անկախ մոդել (ցանկալի է այլ ընտանիքից) կոդը ստուգելու համար, տալ «կոտրելու» հրահանգ՝ ստիպելով AI-ին փնտրել սխալներ, այլ ոչ թե հաստատել ճշտությունը, և պահպանել մարդկային վերահսկողությունը վերջնական միաձուլման ժամանակ: Փոխելով նպատակը վավերացումից դեպի ակտիվ հերքում՝ ծրագրավորողները կարող են բացահայտել կրիտիկական սխալները, որոնք ստանդարտ AI հարցումները հաճախ բաց են թողնում: Հեղինակը շեշտում է, որ մարդկային փորձը մնում է անփոխարինելի այնպիսի բարդ դեպքերում, որոնք մոդելները դեռևս չեն կարողանում ինտուիտիվ կերպով հասկանալ: