Թենզորային միջուկներն այլևս չեն փրկում. ինչու են AI արագացուցիչները բախվելու հիշողության սահմանափակմանը
AI արագացուցիչներ արտադրողները ակտիվորեն ավելացնում են հաշվողական հզորությունները՝ մեծացնելով թենզորային միջուկների քանակը և ներդնելով FP8 ու FP4 տվյալների ձևաչափերը: Այնուամենայնիվ, արտադրողականության արագ աճը բախվում է կրիտիկական խոչընդոտի՝ հիշողության թողունակությանը: Ժամանակակից չիպերը հաճախ պարապուրդի են մատնվում՝ սպասելով մոդելների կշիռների և միջանկյալ տվյալների ստացմանը: Այս խնդիրը լուծելու համար Samsung-ը մշակում է HBM5 ստանդարտի հիշողություն: Նոր տեխնոլոգիան խոստանում է կրկնապատկել արտադրողականությունը HBM4E-ի համեմատ և 20%-ով բարձրացնել էներգաարդյունավետությունը: 4096-բիթանոց ավտոբուսի շնորհիվ մեկ ստեկի թողունակությունը կարող է հասնել 4 ՏԲ/վրկ-ի: Այս զարգացումը ընդգծում է, որ AI հաշվարկների ապագան կախված է ոչ միայն հաշվողական բլոկներից, այլև հիշողության՝ անհրաժեշտ տվյալներով դրանք իրական ժամանակում ապահովելու կարողությունից:
This is a summary. Read the full article at the original source:
HabrԿապակցված
Համակարգիչը վերագործարկելու խորհուրդը հնուց է գալիս, սակայն դրա արդիականությունը ժամանակակից տեխնոլոգիաների պայմաններում հաճախ քննարկման առարկա է դառն…
Կրելի սարքերից մինչև ռոբոտներ և սեղանի գաջեթներ. AI սարքավորումների ոլորտը ծաղկում է
IFA 2026 ցուցահանդեսում սպառողական էլեկտրոնիկայի ոլորտը ցույց տվեց նշանակալի տեղաշարժ դեպի մասնագիտացված AI սարքավորումներ: Ծրագրային ապահովման վրա հի…
Տեխնիկական մանրամասն վերլուծության մեջ ծրագրավորող Նիշանտ Ջոշին ուսումնասիրում է այն բարդ ինժեներական մարտահրավերները, որոնք կապված են զրոյից ֆունկցիո…