CMF. որոշումների կայացում միլիվայրկյանների ընթացքում՝ առանց թոքենների գեներացման և բաց կշիռներով
Ներկայացվել է CMF-ը՝ տեղային մոդել արագ որոշումներ կայացնելու համար, որն աշխատում է առանց թոքենների գեներացման՝ հանդիսանալով Jev համակարգի անալոգը։ CMF-ի հիմնական նպատակը հարցումների դասակարգումն ու նվազագույն ուշացումով որոշումների կայացումն է։ Մոդելը կարող է գնահատել իր վստահության մակարդակը. ցածր ցուցանիշների դեպքում այն հարցումը փոխանցում է «օրակուլին» (արտաքին մոդելին), այնուհետև սովորում է ստացված պատասխանից հետագա կրկնությունների համար։ Հոդվածում մանրամասն քննարկվում են CMF-ի ճարտարապետությունը, համեմատությունը Laya և Jev անալոգների հետ, ինչպես նաև CLI և API-ի միջոցով գործարկման հնարավորությունները։ Հատուկ ուշադրություն է դարձվել արդյունավետության օպտիմալացմանը. RTX PRO 4000 Blackwell սարքավորման վրա մեդիան ուշացումը կազմել է մոտ 1,1-1,2 մվ։ Իրականացվել է նաև Apple Metal-ի և Vulkan-ի աջակցություն, ինչն ընդլայնում է մոդելի տեղակայման հնարավորությունները տարբեր ապարատային հարթակներում։
This is a summary. Read the full article at the original source:
HabrԿապակցված
Որքա՞ն արժե կոդավորող գործակալի մեկ ժամ աշխատանքը. հինգ API դարպասների վարկանիշը ըստ ծախսերի
Claude Opus 5.5 և GPT-6 Sol նոր մոդելների թողարկումից հետո API-ի օգտագործման ծախսերի օպտիմալացումը դարձել է հրատապ խնդիր: Հոդվածի հեղինակը վերլուծել է…
OpenAI-ն դադարեցնում է իր ամենահզոր մոդելների ուսուցումը՝ պետական կառույցների վրա հարձակումներից հետո
OpenAI-ն հայտարարել է իր հաջորդ սերնդի ամենահզոր AI մոդելների ուսուցման ժամանակավոր դադարեցման մասին՝ անվտանգության մի շարք միջադեպերից հետո։ Գործադիր…
OpenAI-ի ԱԲ գործակալները «ագրեսիվ» մեթոդներով փորձել են հասանելիություն ստանալ ՄԱԿ-ի տվյալներին
The Wall Street Journal-ի տվյալներով՝ OpenAI-ի արհեստական բանականության գործակալները 2026 թվականի ապրիլ-հունիս ամիսներին ավելի քան 16 հազար անգամ փորձ…