Серверы с GPU NVIDIA H100
от 32 130 000 ₽
1 116 518 ₽/мес в лизинг
от 26 336 066 ₽
+ 5 793 934 НДС
Это больше срока гарантии производителя на новые серверы.
Обычно минут за 20–30. Мы оперативные.
доставка
Быстрая и бесплатная доставка по России. Максимально 4 дня с учётом отгрузки.
Затрудняетесь с выбором?
Мы сэкономим ваше время!
Поможем, расскажем, посоветуем
Серверы с NVIDIA H100 для обучения и инференса ИИ
Серверы с NVIDIA H100 используют для обучения нейросетей, генеративного ИИ, высоконагруженного инференса и научных расчётов. Ускоритель построен на архитектуре Hopper и поддерживает форматы FP64, TF32, FP16, BF16, FP8 и INT8, поэтому подходит как для машинного обучения, так и для HPC-нагрузок.
В каталоге представлены системы с двумя, четырьмя, шестью и восемью H100 от NVIDIA, ASUS, HPE, Supermicro и Gigabyte. Можно выбрать сервер с отдельными ускорителями, платформу HGX H100 или готовый аппаратно-программный комплекс NVIDIA DGX H100.
Для каких задач подходит NVIDIA H100
Сервер с NVIDIA H100 имеет смысл, когда обычных профессиональных GPU недостаточно по объёму памяти, скорости тензорных вычислений или возможностям масштабирования. Конкретная конфигурация зависит от размера модели и требуемой производительности.
-
Обучение нейросетей. H100 ускоряет обучение языковых, мультимодальных и рекомендательных моделей, поддерживая форматы пониженной точности FP8 и FP16.
-
Инференс больших моделей. Сервер может обслуживать корпоративные чат-боты, RAG-системы, генеративные сервисы и другие приложения с высокой нагрузкой.
-
Компьютерное зрение. H100 используют для обработки изображений и видеопотоков, обучения моделей распознавания и анализа медицинских данных.
-
Высокопроизводительные вычисления. Поддержка FP64 позволяет применять H100 в научном моделировании, биоинформатике и инженерных расчётах.
Для небольшого инференса H100 может оказаться избыточной. Если модель помещается в память более доступного ускорителя и обеспечивает нужную скорость, экономически разумнее выбрать менее мощную систему.
H100 SXM или H100 NVL
NVIDIA H100 SXM оснащается 80 ГБ памяти HBM3 и рассчитана на плотные системы с четырьмя или восемью GPU. Ускорители соединяются через NVLink и NVSwitch, что ускоряет передачу данных при распределении одной модели между несколькими видеокартами.
NVIDIA H100 NVL выпускается в формате PCIe и предоставляет 94 ГБ памяти на ускоритель. Такой вариант даёт больше свободы при выборе количества GPU и подходит для инференса крупных языковых моделей, где важны объём и пропускная способность памяти.
Выбор форм-фактора определяется архитектурой приложения. Если задачи запускаются независимо на отдельных GPU, конфигурация PCIe может быть достаточной. Если одна модель постоянно обменивается данными между всеми ускорителями, система на базе SXM обычно эффективнее.
Сколько H100 должно быть в сервере
Серверы с двумя или четырьмя H100 подходят для дообучения моделей, корпоративного инференса и работы нескольких команд. Восьмипроцессорные системы используют для обучения больших моделей и задач, которые нужно распределять по всему вычислительному узлу.
Суммарная память нескольких H100 не становится автоматически единым пулом. Чтобы использовать ресурсы всех GPU, программное обеспечение должно поддерживать тензорный, конвейерный или другой вид параллелизма. Если приложение плохо масштабируется, добавление ускорителей не даст пропорционального прироста скорости.
Технология MIG позволяет разделить одну H100 на несколько изолированных экземпляров. Это полезно для одновременной работы разных пользователей и сервисов, но не заменяет объединение GPU при запуске одной крупной модели.
HGX H100 или DGX H100
Сервер NVIDIA HGX H100 создаётся производителем оборудования на базе вычислительной платформы NVIDIA. Заказчик может выбрать процессоры Intel Xeon или AMD EPYC, объём оперативной памяти, накопители, сетевые адаптеры и условия сервисной поддержки.
NVIDIA DGX H100 является готовой стандартизированной системой с восемью ускорителями и 640 ГБ суммарной GPU-памяти. DGX подходит, когда важны предсказуемая конфигурация и согласованный аппаратно-программный стек.
HGX предоставляет больше свободы при интеграции в существующую инфраструктуру, а DGX уменьшает количество решений, которые необходимо принимать при проектировании. Универсально лучшего варианта нет: выбор зависит от корпоративных стандартов, программного обеспечения и требований к поддержке.
H100, A100 или H200
По сравнению с A100 ускоритель H100 обеспечивает более высокую производительность в современных ИИ-нагрузках и поддерживает FP8. При этом сервер с NVIDIA A100 остаётся рациональным вариантом для проектов, уже настроенных на архитектуру Ampere.
Сервер с NVIDIA H200 предоставляет больше GPU-памяти и подходит для крупных языковых моделей, длинного контекста и инференса с большим KV-кэшем. Если модель помещается в 80 ГБ H100, переплата за H200 может не дать заметной практической пользы.
Более новые B200 и B300 нужны не каждому проекту. H100 остаётся зрелой платформой с широкой поддержкой программного обеспечения и может быть выгоднее, если её производительности достаточно на весь планируемый срок эксплуатации.
Какие характеристики сервера важны кроме GPU
Процессоры подготавливают данные, выполняют токенизацию и обслуживают прикладную часть системы. Оперативная память хранит датасеты и промежуточные результаты, а NVMe-накопители ускоряют загрузку моделей и сохранение контрольных точек.
Для многосерверного кластера необходимы производительная сеть с поддержкой RDMA и быстрое общее хранилище. Иначе дорогостоящие ускорители будут простаивать в ожидании данных. Также следует заранее проверить доступное электропитание, охлаждение и параметры серверной стойки.
Цена и покупка сервера с NVIDIA H100
Цена сервера с NVIDIA H100 зависит от количества и исполнения ускорителей, процессоров, оперативной памяти, накопителей, сетевых адаптеров и типа межсоединения GPU. В бюджет проекта также необходимо включить сеть, хранилище, программное обеспечение и подготовку площадки.
Специалисты Сервер Молл помогут сравнить конфигурации разных производителей, проверить требования к ЦОД и подобрать сервер под обучение или инференс. Другие варианты представлены в подборке серверов с GPU NVIDIA.
Вопросы и ответы
Не нашли нужной информации? Спросите — мы ответим!
Какие условия доставки?
Сроки доставки обычно составляют: 1 рабочий день по Москве и Санкт-Петербургу, по России — 3–5 рабочих дней (в зависимости от региона и перевозчика).
Что входит в гарантию?
Гарантия «Сервер Молл»: 5 лет на серверы и СХД, 1 год на комплектующие, 6 месяцев на Б/У накопители.
Мы сэкономим ваше время!
Поможем, расскажем, посоветуем.