Cache-to-Cache. Ուղղակի իմաստային հաղորդակցություն մեծ լեզվական մոդելների միջև
Հետազոտողները ներկայացրել են «Cache-to-Cache» նորարարական շրջանակը, որը նախատեսված է մեծ լեզվական մոդելների (LLM) միջև ուղղակի իմաստային հաղորդակցություն ապահովելու համար: Շրջանցելով ավանդական թոքենային վերծանումը՝ այս մեթոդը թույլ է տալիս մոդելներին փոխանակել սեղմված իմաստային ներկայացումներ անմիջապես իրենց KV քեշերի միջոցով: Այս մոտեցումը զգալիորեն նվազեցնում է ուշացումը և հաշվողական ծանրաբեռնվածությունը բազմագործակալային համակարգերում, որտեղ մոդելները պետք է համագործակցեն բարդ խնդիրներ լուծելու համար: Հետազոտությունը ցույց է տալիս, որ տարբեր մոդելների լատենտային տարածությունները համապատասխանեցնելով՝ դրանք կարող են կիսվել «մտածողության գործընթացներով» ավելի արդյունավետ, քան բնական լեզվի գեներացման միջոցով: Այս նորամուծությունը լուծում է հաջորդական թոքենների գեներացման խնդիրը՝ ճանապարհ հարթելով ավելի արագ և համախմբված AI գործակալների ցանցերի համար: Հեղինակները ներկայացնում են էմպիրիկ ապացույցներ՝ ցույց տալով տրամաբանական առաջադրանքների կատարողականի բարելավումը՝ տեղեկատվության փոխանցման բարձր ճշգրտության պահպանմամբ:
This is a summary. Read the full article at the original source:
Hacker News (YC)Կապակցված
Ինչպե՞ս կարող են AI գործակալները հանգեցնել ձեռնարկությունների համար անվերահսկելի ծախսերի
Քանի որ ձեռնարկություններն ավելի ու ավելի են ինտեգրում ինքնավար AI գործակալներն իրենց աշխատանքային գործընթացներում, ի հայտ է եկել ֆինանսական լուրջ ռիս…
AI-ի անվերահսկելի վտանգները կանխելու համար անհրաժեշտ է ավելին, քան պարզապես խոսակցություններ P(doom)-ի մասին
CNET-ի հյուրընկալված սյունակում հեղինակ Ջեյմի Բարթլեթը քննարկում է առաջադեմ արհեստական բանականության հետ կապված աճող ռիսկերը: Բարթլեթը պնդում է, որ «P…
OpenAI-ն ստեղծում է մաթեմատիկական խորհրդատվական խումբ, քանի որ նրա AI-ն լուծել է ավելի քան 100 բաց խնդիր
OpenAI-ն պաշտոնապես ստեղծել է մաթեմատիկական խորհրդատվական խումբ՝ վերահսկելու առաջադեմ AI տրամաբանության ոլորտում իր հետազոտությունները: Այս քայլը հաջո…