BlockBeats News, 7 августа, Nvidia оценивает возможность корректировки конфигурации HBM для графического процессора следующего поколения Rubin Ultra, планируя выпустить версию с меньшим объемом памяти, чем планировалось изначально, чтобы снизить нагрузку на массовое производство, вызванную дефицитом высокопроизводительной памяти HBM. Инсайдеры сообщили, что за последние несколько недель Nvidia протестировала как минимум три различные версии с разным объемом памяти, некоторые из которых имеют более низкие технические характеристики. Это означает, что даже Nvidia, доминирующая на рынке графических процессоров, вынуждена идти на компромиссы между характеристиками продукта и производственными возможностями. Rubin Ultra позиционируется выше предстоящей серии Rubin и изначально был спроектирован с использованием HBM большей емкости и пропускной способности для повышения производительности обучения и вывода больших моделей.

Если в итоговой конфигурации будет использован меньший объем памяти, клиентам, работающим с большими языковыми моделями и другими масштабными задачами ИИ, потребуется развертывать больше графических процессоров, что приведет к увеличению системных затрат и сложности кластеров. Для облачных провайдеров, таких как Microsoft, Meta, Amazon и Google, которые продолжают наращивать капитальные затраты на ИИ, расходы на строительство центров обработки данных могут еще больше вырасти. Шаг Nvidia также отражает тот факт, что, несмотря на наличие у компании самых сильных рычагов влияния в производственной цепочке, ограничения поставок HBM остаются основным «узким местом» для расширения вычислительных мощностей ИИ. Ранее производственные мощности SK Hynix и Micron по выпуску высокопроизводительной HBM были постоянно загружены, и решение Nvidia о заблаговременном снижении характеристик еще раз подтверждает, что противоречие между спросом и предложением на HBM в краткосрочной перспективе вряд ли удастся разрешить.