OpenAI-ի ծրագրային ապահովման գործարանը կարող է շրջանցել մարդկային ստուգումը. ո՞վ է գնահատում այդ որոշումը

OpenAI-ի գործակալային ծրագրային գործարանն օգտագործում է ավտոմատացված աշխատանքային հոսքեր՝ կոդի տեղակայումը պարզեցնելու համար, ներառյալ ռիսկերի դասակարգիչը, որը որոշում է՝ արդյոք pull request-ը մարդկային ստուգման կարիք ունի, թե ոչ: Թեև այս համակարգը բարձրացնում է արդյունավետությունը, այն լուրջ հարցեր է առաջացնում ավտոմատացված որոշումների կայացման հաշվետվողականության վերաբերյալ: Հեղինակը պնդում է, որ «ցածր ռիսկ» պիտակը ստատիկ հատկություն չէ, այլ համատեքստից կախված դատողություն, որը կարող է ձախողվել կախվածությունների կամ պահանջների փոփոխության դեպքում: Անվտանգությունն ապահովելու համար հեղինակն առաջարկում է, որ կազմակերպությունները երթուղային որոշումը դիտարկեն որպես փորձարկելի վարքագիծ, այլ ոչ թե պարզ պիտակ: Սա ներառում է դասակարգման գործընթացի մանրամասն գրառումների պահպանումը: Գնահատելով հենց դարպասը՝ ոչ թե միայն կոդը, թիմերը կարող են երաշխավորել, որ մարդկային վերահսկողության բացակայությունը հիմնավորված է, և համակարգը մնում է կայուն նույնիսկ փոփոխվող պայմաններում: