В тот момент, когда решение NVIDIA H100 NVL с 188 ГБ памяти HBM3 впервые появилось на рынке, оно было представлено в промо-материалах как конфигурация с двумя картами и объединённой памятью. Уже тогда отмечалось, что по сути это две PCIe-карты, соединённые через мост NVLink. Позже, на OCP Summit 2024 (OCP Summit - ежегодное мероприятие, на котором обсуждаются последние достижения в области IT-оборудования и программного обеспечения) была показана система уже с четырьмя картами - NVIDIA H200 NVL.
При этом, в материалах профильных изданий вновь неоднокартно подчёркивалось, что карты NVL были установлены с мостами NVLink. Таким образом, возникает логичный вопрос - а могут ли эти GPU работать по отдельности, и есть ли в этом смысл? Давайте выясним.
Характеристики NVIDIA H100
Изначально версия NVIDIA H100 PCIe предлагалась с 80 ГБ памяти HBM2e. На этой карте также присутствуют разъёмы для мостов NVLink. Затем, вместе с выходом H200, PCIe-карта была обновлена до версии NVIDIA H100 NVL с 94 ГБ памяти HBM3. Это важный момент, поскольку SXM-версия H100 до сих пор ограничена 80 ГБ. Как мы упоминали выше, H100 NVL почти всегда рекламировалась как минимум в парной конфигурации. В частности, хорошим примером может служить таблица с техническими характеристиками H100.
Обратите внимание: H100 NVL представлена в таблице как сразу две карты, и в подавляющем большинстве случаев её можно увидеть именно в такой конфигурации с мостами NVLink.
NVIDIA H100 NVL как одиночный GPU
Тем не менее, кажется вполне логичным, что одиночный GPU может быть весьма полезен (в особенности благодаря своей производительности) в небольшом сервере формата 1U/2U, где физически поместится одна двухслотовая PCIe-карта, но точно не сразу две с мостами. Мы решили проверить эту гипотезу, и запустить H100 NVL как одиночный GPU. В результате, мы получили вот такой вывод NVIDIA SMI (интерфейс системного управления):
Всё работает именно так, как и ожидалось. Для тех, кто планирует приобрести сервер с одним GPU, версия H100 NVL точно даст значительный прирост памяти по сравнению с не-NVL версией H100. В некоторых сценариях, например, когда дело касается пропускной способности памяти или MIG-инстансов, NVL-версия даже способна превзойти SXM-версию карты при меньшем уровне энергопотребления.
Заключение
Стоит также вспомнить, что во время презентации NVIDIA GTC 2025, CEO компании Дженсен Хуанг заявил, что поколение Hopper больше не стоит покупать (в связи с развитием более мощных решений). Это может означать, что GPU семейства H100 станут доступнее на вторичном рынке, особенно с выходом обновлённой H200 NVL с 141 ГБ памяти, которой H100 уже не может составить конкуренцию. Для тех, кто ищет PCIe-карту для использования в качестве единственного GPU, H100 NVL может стать превосходным вариантом — как прямо сейчас, так и в будущем, в котором на первый план выйдет Blackwell.
Подводя итог, ещё раз упомянем, что в сети настолько много материалов, где эти карты демонстрируются исключительно в парной конфигурации, что мы решили внести ясность относительно возможности работы H100 NVL в одиночку.
