3.8 միլիարդ պարամետրով LLM-ի մարզում 0.384 CORE արդյունքով՝ 998 դոլարով
Հյուգո Վերնյեն հրապարակել է 3.8 միլիարդ պարամետր ունեցող լեզվական մոդելի (LLM) մարզման իր նախագծի մանրամասն տեխնիկական վերլուծությունը, որի արժեքը կազմել է 1000 դոլարից պակաս: Նախագիծը, որը հասել է 0.384 CORE ցուցանիշի, ծառայում է որպես ծախսարդյունավետ մեքենայական ուսուցման գործնական օրինակ: Վերնյեն ներկայացնում է այն մեթոդաբանությունը, սարքավորումների ընտրությունը և մարզման ռազմավարությունները, որոնք օգտագործվել են արդյունավետությունը բարձրացնելու և ծախսերը նվազեցնելու համար: Տվյալների մշակման հատուկ տեխնիկաների և հաշվողական ռեսուրսների օպտիմալ բաշխման շնորհիվ նախագիծը ցույց է տալիս, որ բարձրորակ մոդելների մարզումը գնալով ավելի հասանելի է դառնում անկախ հետազոտողների և փոքր թիմերի համար: Փաստաթղթավորումը պատկերացում է տալիս բյուջետային պայմաններում մոդելների մարզման մարտահրավերների մասին՝ առաջարկելով ուղեցույց նրանց համար, ովքեր հետաքրքրված են վերարտադրելի AI հետազոտություններով: Այս նախաձեռնությունը ընդգծում է LLM-ի մշակման ժողովրդավարացման աճող միտումը՝ խելացի ինժեներական լուծումների միջոցով:
This is a summary. Read the full article at the original source:
Hacker News (YC)Կապակցված
Ալեքսանդր Կոնստանտինովը՝ Sberbank-ի դուստր ձեռնարկության Android-ի առաջատար ծրագրավորողը, հրապարակել է հոդված, որը նվիրված է արհեստական բանականության…
Դադարեք հարցնել՝ «այս հմտությունը անվտա՞նգ է» — հարցրեք՝ «ի՞նչ կարող է այն անել»
Հոդվածում քննարկվում է «հնարավորությունների բացահայտման» (capability disclosure) հայեցակարգը՝ կապված AI-գործակալների հմտությունների հետ: Հեղինակը քննա…
Օրենսդիրները քննադատում են AI ընկերություններին՝ հետազոտողի կողմից մարդկության ոչնչացման մասին նախազգուշացումից հետո
Anthropic-ի նախկին հետազոտող Ջեյքոբ Քոքսոնի նախազգուշացումից հետո, որ արհեստական բանականությունը կարող է մինչև 2030 թվականը հանգեցնել մարդկության ոչնչ…