Հետ
Արհեստական բանականություն և մեքենայական ուսուցում

Փոքր մոդել. Մեծ որոշումներ. Ինչպես ես ստեղծեցի 144 մլն պարամետրով որոշումների մոդել, որը LLM-ներից հանում է գործակալների որոշումների 82%-ը

Dev.to
Advertisement468 × 90
Փոքր մոդել. Մեծ որոշումներ. Ինչպես ես ստեղծեցի 144 մլն պարամետրով որոշումների մոդել, որը LLM-ներից հանում է գործակալների որոշումների 82%-ը

Ծրագրավորող Փերի Լինքը ներկայացրել է Phocinae-Largha-150M-v1 մոդելը՝ 144 միլիոն պարամետրով, որը նախատեսված է AI գործակալների համար կրկնվող որոշումների կայացման գործընթացները օպտիմալացնելու համար: Ի տարբերություն գեներատիվ մոդելների, այս մոդելը կենտրոնանում է կոնկրետ տիպի պատասխանների վրա՝ ապահովելով դետերմինիստական արդյունքներ և ցածր ուշացում (18.6 մվ GPU-ի վրա): Գործելով որպես «System 1» դարպաս՝ մոդելը տեղայնորեն մշակում է առօրյա հարցումները՝ միայն բարդ դեպքերը փոխանցելով ավելի մեծ և թանկ LLM-ներին: Այս մոտեցումը թույլ է տվել 82%-ով կրճատել LLM API-ի կանչերը՝ պահպանելով բարձր ճշգրտություն: Նախագիծը բաց կոդով է (Apache-2.0) և շեշտը դնում է չափումների թափանցիկության վրա: Այն նախատեսված է այն մշակողների համար, ովքեր ցանկանում են օպտիմալացնել իրենց աշխատանքային հոսքերը՝ պարզ, կրկնվող տրամաբանությունը ծանր գեներատիվ մոդելներից տեղափոխելով թեթև և արդյունավետ այլընտրանքի վրա:

This is a summary. Read the full article at the original source:

Dev.to
Advertisement468 × 90
Share
Արհեստական բանականություն և մեքենայական ուսուցում

Կապակցված

«Cents Matter / Centavos Importam» նոր չափորոշիչը գնահատում է, թե որքանով են լեզվական մոդելները (LLM) տիրապետում ճշգրիտ ֆինանսական տրամաբանությանը: Ka…

Dev.to

Ծրագրավորող Բրենդոն Թոմասը գործարկել է հավակնոտ նախագիծ՝ Adobe Creative Suite-ը փոխարինելու համար՝ ստեղծելով յոթ բաց կոդով հավելվածներ։ Օգտագործելով A…

Ars Technica

Google-ը ներկայացրել է Playground-ը՝ փորձարարական հարթակ, որը նախատեսված է գեներատիվ արհեստական բանականության միջոցով բրաուզերային խաղերի մշակումը պար…

Mashable
Advertisement970 × 250