Nvidia представила NVHBM: до 30% більше пропускної здатності за HBM4E

Nvidia розширює програму NVLink Fusion новим компонентом — власною реалізацією високошвидкісної пам’яті NVHBM. Компанія заявляє до 30% вищу пропускну здатність одного стека порівняно зі стандартною HBM4E та приблизно на 15% нижче енергоспоживання. Йдеться не про заміну всієї звичайної HBM на ринку, а про спеціалізований варіант із базовим кристалом і фізичним інтерфейсом, оптимізованими для прискорювачів та систем, що підключаються до екосистеми NVLink.

Навіщо змінювати базовий кристал

Стек HBM складається з кількох DRAM-кристалів, розташованих один над одним, і базового шару, який з’єднує пам’ять із логічним процесором. У стандартній HBM виробник прискорювача значною мірою працює з готовим набором інтерфейсів. NVHBM дає Nvidia більше контролю над передаванням даних, PHY та інтеграцією з обчислювальним кристалом. Це потенційно дозволяє скоротити зайві перетворення сигналів і краще узгодити пам’ять із конкретною топологією AI-системи.

Для великих моделей пропускна здатність часто важливіша за номінальну кількість обчислювальних блоків. Якщо матриці або параметри не надходять до GPU достатньо швидко, частина блоків простоює. Приріст у 30%, якщо він підтвердиться у готових продуктах, може допомогти підвищити завантаження прискорювача без пропорційного збільшення кількості стеків. Зниження енергоспоживання пам’яті також важливе для стійки, де десятки процесорів ділять обмежений бюджет живлення та охолодження.

Зв’язок із NVLink Fusion

NVLink Fusion створено для компаній, які розробляють власні CPU або ASIC, але хочуть підключати їх до масштабованої доменної мережі Nvidia. NVHBM стане ще одним будівельним блоком для таких партнерів. Це означає, що технологія може з’являтися не лише у фірмових GPU Nvidia, а й у спеціалізованих прискорювачах, якщо їхні розробники погодять відповідний дизайн і ланцюг постачання.

Такий підхід одночасно посилює екосистему Nvidia. Партнер отримує готові інтерфейси пам’яті та міжпроцесорного зв’язку, але глибше прив’язується до технологічної платформи компанії. Для великих замовників це може бути прийнятною платою за швидший вихід продукту. Для ринку загалом важливо, чи залишаться специфікації достатньо відкритими для кількох виробників пам’яті та пакування.

Що поки не доведено

Показники 30% і 15% є заявами Nvidia. Незалежних тестів готових прискорювачів із NVHBM ще немає, а реальний результат залежатиме від частоти, місткості, кількості стеків, охолодження та програмного навантаження. Вища пікова смуга не гарантує такого самого приросту швидкості моделі, якщо її обмежує обчислення, мережа або затримка доступу.

Також не оголошено точні строки масового виробництва, ціни й перелік перших партнерів. Власний базовий кристал ускладнює валідацію та може вимагати окремих виробничих потужностей. Тому NVHBM варто сприймати як стратегічний напрям для наступних AI-платформ, а не як пам’ять, що вже завтра витіснить HBM4E. Найважливішою перевіркою стануть реальні системи: їхня продуктивність на ват, доступність і здатність працювати з різними постачальниками стеків.