ChatGPT-ի սահմանափակումները և տեղային LLM-ները. փորձարկում Hermes Agent-ի հետ
Հոդվածի հեղինակը փորձարկել է Hermes Agent-ի ամպային հնարավորությունները տեղային լեզվական մոդելներով փոխարինելու հնարավորությունը՝ օգտագործելով RTX 3080 տեսաքարտով և 32 ԳԲ օպերատիվ հիշողությամբ տնային համակարգիչ: Հետազոտության ընթացքում համեմատվել են Qwen և GLM մոդելները՝ ճարտարապետական նախագծման, տեքստերի խմբագրման և տվյալների արդյունահանման առաջադրանքներում: Փորձարկվել են քվանտավորման տարբեր մակարդակներ, ինչպես նաև իրականացվել է կապ Mac-ի Hermes հաճախորդի և Windows-ի տեղային սերվերի միջև: Չնայած տեխնիկական հաջող կարգավորումներին՝ հեղինակը նշում է, որ դեռևս չի հաջողվել հասնել ամպային լուծումներին համեմատելի պատասխանների որակի: Հոդվածում մանրամասն նկարագրված են թեստավորման պայմանները, արդյունավետության չափումները և Qwen 3.5 9B մոդելի ընտրության պատճառները: Փորձը ցույց է տալիս տեղային LLM-ների ներկայիս սահմանափակումները՝ վճարովի API ծառայությունները ամբողջությամբ փոխարինելու փորձերի ժամանակ:
This is a summary. Read the full article at the original source:
HabrԿապակցված
10 հուշման տեխնիկաներ, որոնք ես սովորել եմ Deep Learning-ի քննության ժամանակ (և որոնք այժմ իրականում օգտագործում եմ)
Dev.to-ում հրապարակված հոդվածում ծրագրավորողը կիսվում է արհեստական բանականության (AI) հետ աշխատելու գործնական հուշումներով (prompting), որոնք հարմարեց…
Բաթլերյան ջիհադ. մարդ-մեքենա հակամարտության պատմական հեռանկարը
Բաթլերյան ջիհադը՝ Ֆրենկ Հերբերտի «Դյունա» տիեզերքի առանցքային իրադարձությունը, հանդիսանում է արհեստական բանականության անվերահսկելի զարգացման վտանգների…
Գործակալային մանիֆեստ. ինչպիսի՞ն պետք է լինի Agile մանիֆեստը արհեստական բանականության դարաշրջանում
Ռեմո Յանսենը վերլուծում է ծրագրային ապահովման մշակման փոփոխվող լանդշաֆտը, քանի որ արհեստական բանականության գործակալները սկսում են ավտոմատացնել կոդավոր…