Հետ
Գեյմինգ

Llama.cpp-ն ջեյլբրեյք արված PS5-ում. գործարկեք ցանկացած GGUF մոդել կոնսոլի վրա

Hacker News (YC)
Advertisement468 × 90
Llama.cpp-ն ջեյլբրեյք արված PS5-ում. գործարկեք ցանկացած GGUF մոդել կոնսոլի վրա

PS5LM անունով նոր նախագիծը հաջողությամբ տեղափոխել է Llama.cpp-ն Sony PlayStation 5-ի վրա, ինչը հնարավորություն է տալիս կոնսոլին գործարկել GGUF ձևաչափի լեզվական մեծ մոդելներ (LLM): Օգտագործելով PS5-ի ջեյլբրեյք արված միջավայրը՝ մշակողները ցույց են տվել, որ կոնսոլի սարքավորումները, հատկապես GPU-ն և միասնական հիշողության ճարտարապետությունը, կարող են օգտագործվել տեղային AI հաշվարկների համար: Նախագիծը հնարավորություն է տալիս էնտուզիաստներին փորձարկել տարբեր բաց կոդով LLM-ներ անմիջապես խաղային սարքավորման վրա՝ առանց ամպային ծառայություններից կախվածության: Թեև իրականացումը պահանջում է որոշակի ջեյլբրեյք արված ծրագրային ապահովում, այն ընդգծում է բարձր արդյունավետությամբ խաղային կոնսոլները ոչ խաղային նպատակներով օգտագործելու աճող միտումը: Այս զարգացումը նոր հնարավորություններ է բացում տեղային AI փորձարկումների համար՝ ցույց տալով ժամանակակից խաղային համակարգերի հզորությունը, երբ դրանք ազատվում են արտադրողի պաշտոնական սահմանափակումներից:

This is a summary. Read the full article at the original source:

Hacker News (YC)
Advertisement468 × 90
Share
Գեյմինգ

Կապակցված

Advertisement970 × 250