Nvidia представила архитектуру памяти NVHBM для повышения производительности ИИ

Компания Nvidia представила NVHBM — специализированную архитектуру памяти с высокой пропускной способностью, призванную устранить узкие места в производительности передовых моделей ИИ. Перенос контроллера памяти с кристалла ускорителя на базовый кристалл стека HBM позволяет, по заявлениям Nvidia, увеличить пропускную способность на 30%, снизить энергопотребление на 15% и освободить 25% площади кристалла по сравнению со стандартом JEDEC HBM4E. Технология, заменяющая традиционные параллельные шины на последовательные межкристальные соединения, в настоящее время доступна только в рамках программы Nvidia NVLink Fusion. Первым партнером, использующим эту экосистему, стала Annapurna Labs (Amazon). Хотя этот подход перекликается с недавними разработками Marvell и других компаний, реализация Nvidia тесно интегрирована с её проприетарной платформой. В то время как отрасль ожидает массового внедрения HBM4E в 2027 году, NVHBM представляет собой стратегический шаг по оптимизации управления памятью для будущих высокопроизводительных вычислений и ИИ-оборудования.