Ես տվեցի ChatGPT-ին իմ ամբողջ կոդը. Արդյունքներն ինձ վախեցրին, բայց ոչ այն պատճառով, ինչ կարծում եք

Ծրագրավորողներից մեկը փորձարկել է՝ իր ամբողջ ծրագրային կոդը տրամադրելով լեզվական մեծ մոդելին՝ որպես կոդի վերանայող (code reviewer) դրա արդյունավետությունը գնահատելու համար։ Թեև AI-ն հիանալի դրսևորեց իրեն որպես «որոնող»՝ հայտնաբերելով մոռացված վերջնակետեր, ռեսուրսների մրցավազքի խնդիրներ և հին կոնֆիգուրացիաներ, այն ձախողվեց որպես «վկա»։ Մոդելը հաճախ էր հորինում գոյություն չունեցող խոցելիություններ՝ մեծ վստահությամբ, և ավելի վտանգավոր է, որ չկարողացավ նկատել տվյալների կորստի կրիտիկական սխալը վճարումների մշակման համակարգում։ Հեղինակը եզրակացնում է, որ չնայած AI-ն հզոր գործիք է ճարտարապետությունը քարտեզագրելու համար, այն չունի կոդի վերջնական ստուգման համար անհրաժեշտ դատողություն։ Հիմնական վտանգը մոդելի միատեսակ, վստահ տոնի մեջ է, որը թույլ չի տալիս տարբերակել իրական բացահայտումները հորինվածներից։ Հեղինակը խորհուրդ է տալիս AI-ն օգտագործել միայն որպես հայտնաբերման գործիք՝ ընդգծելով, որ մարդկային վերահսկողությունը մնում է անփոխարինելի։