GPU NVIDIA H200
Гарантия 1
Бесплатная доставкаот 3 578 997 ₽
124 370 ₽/мес в лизинг
от 2 933 604 ₽
+ 645 393 НДС
Гарантия 1Бесплатная доставкаот 3 686 636 ₽
128 111 ₽/мес в лизинг
от 3 021 833 ₽
+ 664 803 НДС
NVIDIA H200 для больших языковых моделей и высокопроизводительных вычислений
NVIDIA H200 Tensor Core — серверный GPU-ускоритель на архитектуре Hopper для генеративного искусственного интеллекта, обучения и инференса больших языковых моделей, анализа данных и высокопроизводительных вычислений. Главное отличие H200 от предыдущих ускорителей Hopper — 141 ГБ памяти HBM3e с пропускной способностью до 4,8 ТБ/с.
Большой объем и высокая пропускная способность памяти позволяют размещать на одном GPU более крупные модели, обрабатывать длинный контекст и увеличивать размер пакета данных. Это помогает сократить количество обменов между ускорителями и повысить производительность задач, ограниченных объемом или скоростью видеопамяти.
В каталоге Сервер Молл представлены ускорители NVIDIA H200 NVL в исполнении PCIe, в том числе OEM-поставки. Перед покупкой необходимо проверить артикул, комплектацию и совместимость ускорителя с конкретной серверной платформой.
NVIDIA H200 NVL и H200 SXM: в чем разница
-
NVIDIA H200 NVL выполнена в виде двухслотовой PCIe-карты с воздушным охлаждением. Ускоритель оснащен 141 ГБ памяти HBM3e, подключается через PCIe 5.0 и потребляет до 600 Вт. H200 NVL применяется в серверах с одним или несколькими GPU и подходит для инференса LLM, дообучения моделей и других задач, которым требуется большой объем видеопамяти.
-
NVIDIA H200 SXM представляет собой модуль для специализированных платформ NVIDIA HGX. Такие системы комплектуются четырьмя или восемью ускорителями, используют NVLink и NVSwitch и рассчитаны на распределенное обучение, масштабный инференс и HPC-нагрузки.
Исполнения NVL и SXM не взаимозаменяемы. H200 NVL устанавливается в совместимую PCIe-платформу, а модуль H200 SXM требует серверной платы HGX, специально рассчитанной системы питания и охлаждения.
Объединение нескольких H200 NVL
Ускорители H200 NVL поддерживают объединение двух или четырех GPU с помощью NVIDIA NVLink Bridge. Пропускная способность соединения достигает 900 ГБ/с на один GPU, что ускоряет обмен данными между картами и позволяет выполнять задачи, которые не помещаются в память одного ускорителя.
Установка NVLink Bridge требует совместимой серверной платформы и правильного расположения PCIe-слотов. Наличие нескольких свободных слотов не означает, что выбранный сервер поддерживает необходимую топологию NVLink.
Для каких задач подходит NVIDIA H200
NVIDIA H200 применяется для:
обучения и дообучения больших языковых моделей;
высокопроизводительного инференса LLM;
работы с моделями, которым недостаточно памяти одного H100 или A100;
генеративного ИИ и мультимодальных моделей;
корпоративных AI-ассистентов и RAG-систем;
компьютерного зрения и обработки больших наборов изображений;
научного моделирования и инженерных расчетов;
анализа больших массивов данных;
высокопроизводительных вычислений и GPU-кластеров.
Разделение NVIDIA H200 с помощью MIG
Технология Multi-Instance GPU позволяет разделить один ускоритель H200 на несколько изолированных GPU-инстансов. Это помогает одновременно обслуживать несколько моделей, пользователей, контейнеров или виртуальных сред.
-
H200 NVL поддерживает до семи MIG-инстансов с объемом памяти до 16,5 ГБ на каждый.
-
H200 SXM поддерживает до семи MIG-инстансов с объемом памяти до 18 ГБ на каждый.
Для одной ресурсоемкой модели ускоритель можно использовать целиком, без разделения. MIG целесообразен при запуске нескольких независимых нагрузок, которым не требуется вся память и производительность H200.
NVIDIA H200 или H100
H200 и H100 построены на архитектуре Hopper и поддерживают FP8, Transformer Engine и Multi-Instance GPU. Основное преимущество H200 связано с памятью: ускоритель получил 141 ГБ HBM3e с пропускной способностью до 4,8 ТБ/с.
NVIDIA H100 выпускается с 80 или 94 ГБ памяти и может быть выгоднее для моделей и наборов данных, которые полностью помещаются в доступную видеопамять. H200 целесообразно выбирать, когда ограничением становится объем памяти, пропускная способность или необходимость размещать крупную модель на меньшем количестве GPU.
Совместимость NVIDIA H200 NVL с сервером
NVIDIA H200 NVL нельзя установить в любой сервер со свободным PCIe-слотом. Перед покупкой необходимо проверить:
официальную поддержку H200 NVL серверной платформой;
наличие полноскоростных слотов PCIe 5.0 x16;
размеры ускорителя и количество занимаемых слотов;
поддерживаемое количество GPU;
мощность и резервирование блоков питания;
наличие необходимых кабелей и разъемов питания;
эффективность направленного воздушного потока;
расположение слотов для установки NVLink Bridge;
доступное количество линий PCIe;
совместимость BIOS, драйверов и программного стека.
H200 NVL требует серверной системы охлаждения, рассчитанной на отвод до 600 Вт тепла от каждого ускорителя. При установке нескольких GPU также необходимо учитывать тепловую мощность процессоров, накопителей и сетевых адаптеров.
Специалисты Сервер Молл проверят совместимость ускорителя с вашим оборудованием либо подберут готовый сервер с GPU NVIDIA H200 с необходимым количеством видеокарт, оперативной памяти, накопителей и сетевых интерфейсов.
OEM или стандартная поставка NVIDIA H200
OEM-версия предназначена для установки производителем или системным интегратором в составе серверной платформы. Она может отличаться упаковкой, комплектом поставки, артикулом и условиями гарантийного обслуживания, но заявленные характеристики конкретного ускорителя должны соответствовать его технической документации.
При выборе между OEM и стандартной поставкой необходимо проверять происхождение оборудования, парт-номер, состояние, комплектацию и условия гарантии. Специалисты Сервер Молл уточнят эти параметры до оформления заказа.
От чего зависит цена NVIDIA H200
Стоимость NVIDIA H200 зависит от исполнения, артикула, типа поставки, количества ускорителей и доступности оборудования. Для расчета конфигурации укажите задачу, размер модели, необходимое количество GPU, модель используемого сервера и требования к NVLink. Подготовим подходящие варианты, проверим совместимость и сориентируем по цене и срокам поставки.
Вопросы и ответы
Не нашли нужной информации? Спросите — мы ответим!
Какие условия доставки?
Сроки доставки обычно составляют: 1 рабочий день по Москве и Санкт-Петербургу, по России — 3–5 рабочих дней (в зависимости от региона и перевозчика).
Что входит в гарантию?
Гарантия «Сервер Молл»: 5 лет на серверы и СХД, 1 год на комплектующие, 6 месяцев на Б/У накопители.
Мы сэкономим ваше время!
Поможем, расскажем, посоветуем.
