Մտքերի ծառ և MCTS LLM-ների համար. Ի՞նչ է տեղի ունենում, երբ դադարում եք մոդելին ստիպել միայն մեկ անգամ գուշակել
Շրիջիթ Վենկատրամանան ուսումնասիրում է, թե ինչպես պարզ գծային եզրակացությունից դուրս գալը կարող է զգալիորեն բարելավել լեզվական մեծ մոդելների (LLM) աշխատանքը: Ավանդական LLM ճարտարապետությունները հիմնված են հաջորդական գեներացման վրա, ինչը հաճախ հանգեցնում է սխալների: Օգտագործելով «Մտքերի ծառ» (ToT) և «Մոնտե Կառլո» ծառի որոնման (MCTS) շրջանակները՝ մշակողները կարող են մոդելներին հնարավորություն տալ կատարել ճյուղավորումներ, գնահատել տարբերակները և հետադարձ կապ հաստատել: Այս մոտեցումը եզրակացությունը դիտարկում է որպես որոնման խնդիր՝ թույլ տալով ռեսուրսներն ուղղել դեպի առավել հեռանկարային ուղիներ: Թեև այս մեթոդը մեծացնում է հաշվարկային ծախսերը, այն ապահովում է բարդ խնդիրների լուծման և պլանավորման հզոր մեխանիզմ: Հեղինակը պնդում է, որ AI գործակալների ապագան կայանում է գործողությունների և վարկածների վրա հիմնված արդյունավետ որոնման ընթացակարգերի կառուցման մեջ:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
Meta-ի նոր AI գործակալը ցանկանում է ավելի անձնական դառնալ ձեզ համար
Meta-ն ներկայացրել է իր վերջին նորարարությունը՝ Muse AI գործակալը, որը նախատեսված է որպես օգտատերերի համար խիստ անհատականացված օգնական հանդես գալու հա…
Ի՞նչ է կատարվում OpenAI-ի և Նավիե-Ստոքսի հավասարումների շուրջ ծագած վեճի հետ
OpenAI-ը վերջերս հայտարարել է մաթեմատիկայի ոլորտում նշանակալի առաջընթացի մասին, որը վերաբերում է Նավիե-Ստոքսի հավասարումներին, որոնք նկարագրում են հեղ…
Խոշոր լեզվական մոդելները մշակում են նոր սոցիալական կողմնակալություններ՝ ադապտիվ ուսուցման միջոցով
OpenReview-ում հրապարակված վերջին գիտական աշխատանքը ուսումնասիրում է, թե ինչպես կարող են խոշոր լեզվական մոդելները (LLM) ձեռք բերել և դրսևորել նոր սոցի…