Փոքր մոդել. Մեծ որոշումներ. Ինչպես ես ստեղծեցի 144 մլն պարամետրով որոշումների մոդել, որը LLM-ներից հանում է գործակալների որոշումների 82%-ը

Ծրագրավորող Փերի Լինքը ներկայացրել է Phocinae-Largha-150M-v1 մոդելը՝ 144 միլիոն պարամետրով, որը նախատեսված է AI գործակալների համար կրկնվող որոշումների կայացման գործընթացները օպտիմալացնելու համար: Ի տարբերություն գեներատիվ մոդելների, այս մոդելը կենտրոնանում է կոնկրետ տիպի պատասխանների վրա՝ ապահովելով դետերմինիստական արդյունքներ և ցածր ուշացում (18.6 մվ GPU-ի վրա): Գործելով որպես «System 1» դարպաս՝ մոդելը տեղայնորեն մշակում է առօրյա հարցումները՝ միայն բարդ դեպքերը փոխանցելով ավելի մեծ և թանկ LLM-ներին: Այս մոտեցումը թույլ է տվել 82%-ով կրճատել LLM API-ի կանչերը՝ պահպանելով բարձր ճշգրտություն: Նախագիծը բաց կոդով է (Apache-2.0) և շեշտը դնում է չափումների թափանցիկության վրա: Այն նախատեսված է այն մշակողների համար, ովքեր ցանկանում են օպտիմալացնել իրենց աշխատանքային հոսքերը՝ պարզ, կրկնվող տրամաբանությունը ծանր գեներատիվ մոդելներից տեղափոխելով թեթև և արդյունավետ այլընտրանքի վրա:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Ցենտերը կարևոր են. արդյո՞ք մոդելը նկատում է, երբ ֆինանսական փաստերից մեկը փոխվում է
«Cents Matter / Centavos Importam» նոր չափորոշիչը գնահատում է, թե որքանով են լեզվական մոդելները (LLM) տիրապետում ճշգրիտ ֆինանսական տրամաբանությանը: Ka…
«Ծրագրային ապահովումն ավարտված է». AI մշակողը մարտահրավեր է նետում Adobe-ին բաց կոդով կլոններով
Ծրագրավորող Բրենդոն Թոմասը գործարկել է հավակնոտ նախագիծ՝ Adobe Creative Suite-ը փոխարինելու համար՝ ստեղծելով յոթ բաց կոդով հավելվածներ։ Օգտագործելով A…
Google-ը գործարկել է Playground-ը՝ արհեստական բանականությամբ աշխատող բրաուզերային խաղերի ստեղծման հարթակ
Google-ը ներկայացրել է Playground-ը՝ փորձարարական հարթակ, որը նախատեսված է գեներատիվ արհեստական բանականության միջոցով բրաուզերային խաղերի մշակումը պար…



