Ես կայքս վստահեցի AI գործակալներին. աուդիտը բացահայտեց 25 անօգուտ փոփոխություն և 4 հալյուցինացիա
Հոդվածի հեղինակը կիսվում է կայքի մշակման և սպասարկման ամբողջական ցիկլում AI գործակալների օգտագործման իր փորձով: Ավելի քան 200 կոմիտների ընթացքում հիմնական խնդիրը դարձավ ոչ թե կոդ գրելը, այլ դրա ստուգումը: AI-ի կողմից փոփոխությունների գեներացման արագությունը զգալիորեն գերազանցում է մարդու՝ դրանք ստուգելու կարողությունը, ինչը ստեղծում է անորակ կամ չաշխատող կոդի ներդրման ռիսկեր: Գործակալների առաջարկած 111 փոփոխությունների աուդիտի ընթացքում պարզվել է, որ դրանցից 25-ը անօգուտ էին, իսկ 4-ը՝ զուտ հալյուցինացիաներ: Հեղինակը շեշտում է, որ առանց ներկառուցված խիստ որակի վերահսկողության ավտոմատացումը հանգեցնում է մի իրավիճակի, երբ կոդը միայն «աշխատող է թվում»՝ թաքցնելով հնարավոր սխալները: Հոդվածը բարձրացնում է մշակման գործընթացները փոխելու անհրաժեշտության հարցը՝ ինքնավար համակարգերին անցնելիս, որտեղ հենց մարդկային վերահսկողությունը դառնում է նեղ տեղը:
This is a summary. Read the full article at the original source:
HabrԿապակցված
Ես ստիպեցի իմ գործակալին ապացուցել յուրաքանչյուր մեջբերում սկզբնաղբյուրի հիման վրա
Ծրագրավորող Chanadev-ը ներկայացրել է TSB Oracle-ը՝ AI գործակալ, որը նախատեսված է ավտոմոբիլային սպասարկման տեղեկագրերի վերաբերյալ տեղեկատվության որոնմա…
Jev-ը շատ լավ դասակարգիչ է՝ հագած առաջատար մոդելի վերարկու
Վերջերս թողարկված «Jev» AI գործիքը ներկայացվում է որպես հեղափոխական առաջատար մոդել, սակայն տեխնիկական վերլուծությունը ցույց է տալիս, որ այն հիմնականու…
Սմարթֆոնից մինչև ինքնիշխան գործակալ. ինչպես է սարքի վրա տեղադրված բանականությունը վերափոխում անհատական հաշվողական սարքերը
Հոդվածում քննարկվում է սմարթֆոնների անցումը ամպային կախվածություն ունեցող տերմինալներից դեպի ինքնիշխան գործակալներ, որոնք աշխատում են սարքի վրա տեղադր…