Jev-ը և Laya-ն հայփից այն կողմ. ի՞նչ են անում որոշումների մոդելները, որ LLM-ները չեն անում

Ծրագրավորող Տիագո Վիլաս Բոասը ուսումնասիրում է գործակալային աշխատանքային հոսքերում մեծ լեզվական մոդելների (LLM) օգտագործման գործնական սահմանափակումները: Մինչ LLM-ները գերազանցում են գեներատիվ առաջադրանքներում, դրանք հաճախ անարդյունավետ են դասակարգման և երթուղավորման համար: Հոդվածը ներկայացնում է Jev-ը և Laya-ն՝ որոշումների մասնագիտացված մոդելներ, որոնք ապահովում են դետերմինիստական, վերջավոր ելքեր՝ կալիբրացված վստահության գնահատականներով: «Downshift» ճարտարապետության ներդրմամբ՝ մշակողները կարող են օգտագործել այս մոդելները որպես դարպաս՝ առաջադրանքները տեսակավորելու համար՝ թանկարժեք LLM-ներին ուղղորդելով միայն բարդ հարցումները: Այս մոտեցումը զգալիորեն նվազեցնում է գործառնական ծախսերը, բարելավում է արձագանքման ժամանակը և ապահովում համակարգի ավելի հուսալի վարքագիծ: Հեղինակը շեշտում է, որ նպատակը LLM-ներին փոխարինելը չէ, այլ դրանք ռազմավարականորեն օգտագործելը թեթև, մասնագիտացված դասակարգիչների հետ միասին՝ խուսափելով պարզ տրամաբանության համար գեներատիվ մոդելների չափից ավելի օգտագործման թակարդներից: