Լեզվական մոդելների վերափոխում բայթերով աշխատելու համար
Nature ամսագրում հրապարակված վերջին հետազոտությունը ներկայացնում է մեծ լեզվական մոդելների (LLM) ճարտարապետության նոր մոտեցում՝ ավանդական թոքենիզացիայից անցում կատարելով բայթային մշակման: Ներկայիս մոդելները հիմնվում են թոքենիզատորների վրա՝ տեքստը թվային ներկայացումների վերածելու համար, ինչը կարող է առաջացնել կողմնակալություն և սահմանափակել բազմալեզու հնարավորությունները: Հետազոտողները ցույց են տալիս, որ մոդելները ուղղակիորեն բայթերով աշխատեցնելով՝ հնարավոր է հասնել ավելի մեծ կայունության և արդյունավետության: Այս ճարտարապետական փոփոխությունը վերացնում է նախապես սահմանված բառապաշարներից կախվածությունը՝ լուծելով թոքենիզացիայի հետ կապված խնդիրները: Արդյունքները վկայում են, որ բայթային մշակումը կարող է հիմնարար բարելավում դառնալ ապագա գեներատիվ AI համակարգերի համար՝ թույլ տալով նրանց ավելի ճշգրիտ մշակել բարդ կամ ոչ ստանդարտ տվյալները՝ նվազեցնելով հաշվողական ծախսերը:
This is a summary. Read the full article at the original source:
Hacker News (YC)Կապակցված
Արհեստական բանականությունը ստեղծում է «մարդկային հավելավճար» մարդկանց կողմից ստեղծված արվեստի համար
Քանի որ գեներատիվ արհեստական բանականության գործիքները դառնում են ավելի հմուտ պատկերներ, տեքստեր և երաժշտություն ստեղծելու հարցում, ձևավորվում է նոր տն…
Ես սարսափելի խաղեր ստեղծեցի Google-ի AI Playground-ի միջոցով
Google-ի արհեստական բանականությամբ աշխատող խաղերի մշակման գործիքների վերջին ուսումնասիրությունը բացահայտում է գեներատիվ տեխնոլոգիաների ընթացիկ սահմանա…
Չիրականացված նախագծեր. արդյո՞ք LLM-ները մեռած առաջարկները ընդունում են որպես իրական ստանդարտներ
Նոր հետազոտությունը ուսումնասիրում է, թե արդյոք լեզվական մեծ մոդելները (LLM) սխալմամբ ընդունում են մերժված կամ չիրականացված տեխնիկական առաջարկները՝ ին…