700-ватний Jalapeño ASIC заявив вищу ефективність за Nvidia GB300
Перші оприлюднені тести спеціалізованого прискорювача показують ставку на пропускну здатність на ват і нижчу затримку.
OpenAI показала перші результати власного інференс-прискорювача Jalapeño, розробленого разом із Broadcom. Компанія робить акцент на затримці та продуктивності на ват.
У публічному наборі InferenceX 700-ватний ASIC, за даними OpenAI, продемонстрував у 1,5–1,9 раза більше пропускної здатності на кіловат і у 1,7–3,6 раза меншу наскрізну затримку, ніж системи Nvidia GB200 та GB300.
Тести охоплювали GPT-OSS 120B, DeepSeek R1 670B і Kimi K2.5. При цьому порівняння не включало новішу платформу Vera Rubin, а сам Jalapeño призначений для інференсу, а не навчання моделей.
Пакет чипа поєднує обчислювальний кристал із шістьма стеками HBM4 — разом 216 ГіБ пам’яті та 15,4 ТБ/с пропускної здатності. OpenAI планує почати розгортання у власних датацентрах до кінця року.
Матеріал підготовлений редакцією HARDW на основі публікації Tom's Hardware.
Відкрити оригінал на Tom's Hardware ↗
