PCIe, SXM, HGX и DGX: чем отличаются платформы GPU-серверов и когда нужна каждая

PCIe, SXM, HGX и DGX — это не четыре равнозначных типа GPU-серверов, а разные уровни одной инфраструктурной цепочки. PCIe и SXM описывают формат установки GPU, HGX — платформу NVIDIA для мощных серверов от производителей оборудования, а DGX — готовую систему NVIDIA под ключ. Если нужен недорогой и гибкий сервер для инференса, тестов, RAG или нескольких прикладных моделей, чаще всего достаточно PCIe. Если задача требует 4–8 GPU с быстрой связью между ними, стоит смотреть в сторону SXM/HGX. DGX имеет смысл там, где важны не только видеокарты, но и готовая аппаратно-программная система с поддержкой, предсказуемой конфигурацией и минимальными рисками интеграции.

Для выбора GPU-сервера недостаточно сравнить только поколение видеокарт или объём видеопамяти. Две системы с одинаковыми H100 или H200 могут вести себя по-разному: одна будет собрана как универсальный PCIe-сервер, другая — как плотная HGX-платформа с NVLink и NVSwitch, третья — как готовый комплекс DGX. Разница проявится в цене, охлаждении, энергопотреблении, скорости обмена между GPU, сложности обслуживания и требованиях к дата-центру.

Поэтому правильный вопрос звучит не «что лучше — PCIe, SXM, HGX или DGX», а «какая платформа подходит под конкретную нагрузку, бюджет и инфраструктуру». Для компании, которая запускает несколько моделей на отдельных GPU, переплата за сложную топологию может не окупиться. Для команды, которая обучает крупную модель и постоянно гоняет данные между несколькими GPU, слабая связь между видеокартами быстро станет узким местом.

Почему PCIe, SXM, HGX и DGX нельзя сравнивать напрямую

Главная путаница возникает из-за того, что эти названия относятся к разным уровням.

PCIe — в данном случае это не интерфейс (шина), а привычный формат подключения карты расширения к серверу, аналогичный десктопам GPU в таком исполнении устанавливается в слот PCIe, как другие серверные карты: сетевые адаптеры, контроллеры или ускорители. В GPU-серверах PCIe остаётся самым гибким вариантом: можно собрать конфигурацию на одну, две, четыре или больше видеокарт, если корпус, питание и охлаждение это позволяют.

SXM — это модульный форм-фактор GPU NVIDIA для плотных серверных платформ. Такая GPU не вставляется в обычный слот как PCIe-карта. Она ставится на специальную плату и рассчитана на системы, где важны высокая плотность, мощное охлаждение и быстрый обмен данными между видеокартами.

HGX — это уже не отдельная видеокарта. Это платформа NVIDIA для производителей серверов. На её основе OEM-производители собирают собственные GPU-серверы: добавляют CPU, память, накопители, сеть, корпус, блоки питания, охлаждение и сервисные опции. Обычно HGX ассоциируется с системами на 4 или 8 GPU, где используются SXM-модули и быстрая внутренняя связь между ними.

DGX — это готовая система NVIDIA. Её покупают не как набор компонентов, а как законченный комплекс: сервер, GPU, NVSwitch, сеть, хранилище, ПО и поддержка поставляются как единая платформа. Это ближе к корпоративной appliance-системе, где заказчик платит за предсказуемость, поддержку и быстрый ввод в эксплуатацию.

Иерархию проще представить так:

1. На нижнем уровне находится сама GPU: PCIe-карта или SXM-модуль.
2. Выше — серверная платформа: например, HGX как база для OEM-сервера.
3. Ещё выше — готовая система: DGX как законченный продукт NVIDIA.

Именно поэтому фраза «выбрать между PCIe и DGX» не совсем точна. PCIe — это формат GPU в сервере, а DGX — целая система. Корректнее сравнивать сценарии: нужен ли гибкий сервер с PCIe GPU, плотный HGX-узел или готовый DGX-комплекс.

Что такое PCIe GPU-сервер

PCIe GPU-сервер — самый понятный и распространённый вариант для большинства компаний. В такой системе видеокарты устанавливаются как платы расширения. Сервер может быть относительно компактным и недорогим, а может быть мощной 4U-системой с несколькими GPU, большим запасом по питанию и продуманным воздушным потоком.

PCIe выбирают, когда важны гибкость и разумная стоимость входа. Такой сервер удобен для задач, где каждая GPU может работать относительно независимо:

• инференс языковых моделей;
• RAG-системы и векторный поиск;
• обработка изображений и видео;
• тестирование моделей;
• аналитика и пакетная обработка данных;
• VDI, рендеринг и графические рабочие нагрузки;
• dev- и staging-среды для ML-команд.

Для таких сценариев часто важнее не максимальная связь между GPU, а объём видеопамяти, цена одной карты, доступность на рынке, совместимость с сервером и стоимость обслуживания. Например, для прикладного инференса можно рассматривать серверные видеокарты NVIDIA в PCIe-исполнении: от более доступных моделей до старших ускорителей уровня A100, H100 или H200.

У PCIe есть несколько сильных сторон:

• широкий выбор серверов и видеокарт;
• проще подобрать refurbished-конфигурацию;
• ниже стоимость входа по сравнению с плотными SXM/HGX-системами;
• проще заменить отдельную карту;
• легче собрать смешанную конфигурацию под разные задачи;
• больше вариантов по корпусам, CPU, памяти, накопителям и сетевым картам.

Но PCIe не стоит воспринимать как универсальное решение для любых AI-нагрузок. У такого подхода есть ограничения:

• плотность GPU обычно ниже, чем у SXM/HGX;
• обмен между GPU чаще идёт через PCIe-шину, а не через полноценную NVSwitch-топологию;
• сложнее эффективно обучать крупные модели на нескольких GPU;
• нужно тщательно проверять количество PCIe-линий и их распределение между устройствами, включая, например nvme, а также райзеры, блоки питания и охлаждение;
• не каждый сервер, физически вмещающий несколько GPU, способен раскрыть их под высокой нагрузкой.

Один из частых просчетов — купить сервер, где «по описанию» помещается четыре GPU, но не проверить тепловой режим, питание и совместимость конкретных карт. В результате ускорители могут снижать частоты, перегреваться или требовать доработки конфигурации.

Что такое SXM и чем он отличается от PCIe

SXM — это серверный модульный формат GPU NVIDIA. В отличие от PCIe-карты, SXM-модуль не рассчитан на установку в обычный слот. Он используется в специализированных платформах, где видеокарты размещаются плотнее, получают больше питания и подключаются к высокоскоростной внутренней топологии.

SXM чаще встречается в системах, где нужно много GPU в одном узле и высокая скорость обмена между ними. Например, NVIDIA указывает для H100 варианты исполнения SXM и PCIe, при этом SXM-версия рассчитана на более высокий тепловой пакет и более плотные серверные конфигурации. Подробные характеристики H100 NVIDIA приводит в официальном описании NVIDIA H100 Tensor Core GPU.

SXM выбирают не потому, что это «просто более дорогая GPU», а потому что сама задача требует другой архитектуры сервера. Такой формат нужен, когда важны:

• 4–8 GPU в одном узле;
• быстрая связь между GPU;
• обучение крупных моделей;
• дообучение LLM;
• высокопроизводительные вычисления;
• плотность вычислений на стойку;
• предсказуемая производительность при долгой нагрузке.

У SXM есть очевидные плюсы:

• выше плотность GPU;
• лучше подходит для систем с NVLink и NVSwitch;
• эффективнее для задач, где несколько GPU работают как единый вычислительный пул;
• чаще используется в старших AI- и HPC-серверах;
• позволяет строить мощные узлы для обучения и распределённых вычислений.

Но вместе с этим SXM требует более серьёзной инфраструктуры:

• совместимой серверной платформы;
• мощного охлаждения;
• достаточного питания;
• продуманной сервисной схемы;
• квалифицированного обслуживания;
• проверки доступности запасных частей;
• понимания будущей масштабируемости.

В PCIe-сервере заменить карту обычно проще: открыл сервер, снял ускоритель, поставил другой совместимый вариант. В SXM/HGX-системах всё зависит от конструкции платформы, доступа к модулям, системы охлаждения и политики производителя. Для refurbished-оборудования это особенно важно: нужно проверять не только сами GPU, но и состояние охлаждения, плат, кабелей, вентиляторов и прошивок.

NVLink и NVSwitch: почему связь между GPU бывает важнее их количества

В AI-инфраструктуре часто считают GPU поштучно: одна, две, четыре, восемь. Но количество видеокарт не всегда показывает реальную производительность. Если задача использует каждую GPU независимо, топология связи между ними может быть второстепенной. Если же одна модель распределяется между несколькими GPU, скорость обмена становится критичной.

NVLink — это высокоскоростная связь между GPU. Она позволяет видеокартам обмениваться данными быстрее, чем при обычном взаимодействии через PCIe. NVSwitch — это коммутатор, который помогает нескольким GPU общаться между собой более равномерно и с высокой пропускной способностью. В плотных системах это особенно важно: GPU не просто стоят рядом, а работают как связанная вычислительная группа.

Для небольшого инференса NVLink/NVSwitch может почти не влиять на итог. Если модель помещается в одну GPU, а запросы распределяются между несколькими независимыми экземплярами, важнее другие параметры:

• объём видеопамяти;
• стоимость одной GPU;
• энергопотребление;
• охлаждение;
• количество одновременных запросов;
• удобство масштабирования сервиса;
• доступность карт на рынке.

Но при обучении больших моделей ситуация меняется. Данные, веса модели, градиенты и промежуточные результаты постоянно передаются между GPU. Если связь слабая, часть времени ускорители будут ждать обмена данными, а не считать. В таком сценарии 8 GPU в плотной HGX-системе и 8 PCIe GPU в менее связанной конфигурации могут дать разный результат.

NVLink и NVSwitch особенно важны для:

• обучения больших языковых моделей;
• дообучения моделей на нескольких GPU;
• HPC-задач;
• распределённых вычислений;
• сценариев, где одна задача активно использует 4–8 GPU;
• плотных GPU-узлов, которые должны работать как единая система.

Без сложной топологии можно обойтись, если нагрузка делится на независимые части:

• несколько моделей обслуживают разные запросы;
• каждая GPU занята отдельным инференс-сервисом;
• сервер используется для пакетной обработки;
• команда запускает тесты и эксперименты;
• основная задача — рендеринг, VDI или визуализация.

Поэтому перед покупкой нужно понять не только «сколько GPU надо», но и «как именно приложение будет использовать несколько GPU». Это влияет на выбор сильнее, чем кажется на этапе закупки.

Что такое HGX и когда он нужен

Источник изображения: официальная страница NVIDIA HGX Platform.

HGX — это платформа NVIDIA для производителей серверов. Её можно воспринимать как основу, на которой строится мощный OEM GPU-сервер. NVIDIA описывает HGX как платформу, объединяющую GPU, NVLink, сетевые технологии и программный стек для задач AI и HPC: NVIDIA HGX Platform.

В реальной закупке это выглядит так: заказчик покупает не «HGX сам по себе», а сервер Dell, HPE, Lenovo, Supermicro или другого производителя, построенный на базе HGX. Внутри такой системы может быть несколько SXM GPU, NVSwitch, процессоры, память, накопители, сетевые адаптеры и охлаждение, выбранные конкретным OEM.

HGX нужен там, где PCIe уже ограничивает задачу. Обычно речь идёт о сценариях, где требуется 4 или 8 мощных GPU в одном узле и высокая скорость обмена между ними. Например:

• обучение больших моделей;
• дообучение LLM;
• HPC;
• крупные RAG-платформы с тяжёлыми моделями;
• исследовательские кластеры;
• корпоративные AI-платформы;
• задачи, где важна высокая плотность GPU на стойку.

У HGX есть важное преимущество перед DGX: больше вариантов по производителям и конфигурациям. Можно подобрать OEM-сервер под конкретные требования: CPU, объём оперативной памяти, локальное хранилище, сетевые адаптеры, гарантию, сервисную модель и бюджет. Для компаний, которые хотят мощную GPU-платформу, но не обязательно готовую систему NVIDIA под ключ, это часто более гибкий путь.

Например, для задач обучения и дообучения можно рассматривать серверы с GPU уровня NVIDIA H100 80 GB или NVIDIA H200, но итоговая эффективность будет зависеть не только от самих карт. Важны топология, охлаждение, сеть, CPU, память и то, как программный стек умеет использовать несколько GPU.

Минусы HGX тоже нужно учитывать заранее:

• высокая стоимость входа;
• серьёзные требования к стойке и питанию;
• высокая тепловая плотность;
• зависимость от конкретной OEM-конфигурации;
• более сложное обслуживание;
• необходимость проектировать сеть и ПО отдельно;
• меньше свободы для «постепенного» расширения по сравнению с простыми PCIe-серверами.

HGX хорошо подходит, когда компания уже понимает свои нагрузки и готова проектировать инфраструктуру. Если же задача пока экспериментальная, бюджет ограничен, а команда только подбирает модели, начинать с HGX может быть преждевременно.

Что такое DGX и чем он отличается от HGX-сервера

Изображение системы DGX H100/H200 с лицевой панелью.

Источник изображения: официальное руководство NVIDIA DGX H100/H200 System User Guide.

DGX — это готовая система NVIDIA для AI-инфраструктуры. В отличие от HGX, который служит платформой для OEM-серверов, DGX поставляется как законченный продукт. В составе системы уже предусмотрены GPU, CPU, NVSwitch, память, накопители, сеть, охлаждение, программная среда и поддержка.

Например, в руководстве NVIDIA DGX H100/H200 указаны конфигурации с 8 GPU H100 или 8 GPU H200, NVSwitch и предопределённым набором компонентов: NVIDIA DGX H100/H200 User Guide. Это не просто «сервер с восемью видеокартами», а стандартизированная платформа для enterprise AI.

DGX выбирают, когда важны:

• быстрый запуск крупной AI-инфраструктуры;
• единая поддержка;
• предсказуемая конфигурация;
• готовый программный стек;
• снижение интеграционных рисков;
• понятная модель эксплуатации;
• масштабирование в рамках экосистемы NVIDIA.

Для крупной компании DGX может быть оправдан, если стоимость простоя, задержки проекта и риски несовместимости дороже, чем экономия на самостоятельной сборке. Такой подход особенно привлекателен для команд, которым нужна не просто вычислительная мощность, а готовая платформа для разработки, обучения и эксплуатации моделей.

Но DGX не всегда рационален. Он может быть избыточным, если:

• нужен один сервер для инференса;
• модели помещаются на одну-две GPU;
• команда готова сама поддерживать драйверы, контейнеры и мониторинг;
• уже есть опыт эксплуатации OEM-серверов;
• бюджет ограничен;
• инфраструктура дата-центра не готова к такой плотности.

Важно не путать «самый мощный» и «самый подходящий». DGX может быть лучшим выбором для enterprise AI-платформы, но слишком дорогим и негибким решением для прикладного инференса, тестов или небольшой ML-команды.

Сравнение PCIe, SXM, HGX и DGX

PCIe — это не «слабая версия HGX», а другой класс решения. Он лучше подходит для гибких и умеренных по бюджету задач. SXM/HGX нужны, когда важна плотность и обмен между GPU. DGX нужен, когда компания покупает не только сервер, но и готовую платформу с поддержкой.

Как выбрать платформу под задачу

Бюджетный инференс

Для инференса чаще всего достаточно PCIe-сервера. Особенно если модели помещаются в одну GPU, а нагрузку можно распределять между независимыми экземплярами.

Подходящая конфигурация может включать:

• 1–2 GPU для начального запуска;
• 2–4 GPU для нескольких сервисов;
• достаточный объём оперативной памяти;
• быстрые NVMe-накопители для моделей и индексов;
• сетевой интерфейс, соответствующий числу запросов;
• нормальный запас по питанию и охлаждению.

Для таких задач не всегда нужны топовые ускорители, вроде H100 или H200. Иногда рациональнее взять более доступные GPU, например NVIDIA L40S 48 GB для универсальных AI- и графических сценариев или другие PCIe-карты с подходящим объёмом видеопамяти.

Универсальный GPU-сервер для компании

Если сервер нужен не под одну модель, а как общая вычислительная платформа, PCIe остаётся самым гибким вариантом. Такой сервер может использоваться для:

• инференса;
• RAG;
• тестирования новых моделей;
• аналитики;
• обработки изображений;
• ML-экспериментов;
• внутренних сервисов нескольких команд.

В этом сценарии важна не максимальная плотность, а баланс. Лучше заранее проверить, можно ли начать с одной-двух GPU и позже расширить сервер. Но расширение должно быть реальным, а не только заявленным в спецификации: нужны свободные слоты, подходящие райзеры, достаточная мощность блоков питания и правильный воздушный поток.

Обучение больших моделей

Для обучения крупных моделей PCIe может быстро упереться в ограничения. Если модель распределяется между несколькими GPU и между ними постоянно идёт обмен данными, важны NVLink, NVSwitch и плотная топология.

Здесь чаще рассматривают SXM+HGX. Такие системы лучше подходят для:

• обучения моделей с нуля;
• дообучения LLM;
• задач с большим объёмом параметров;
• HPC;
• сценариев, где один процесс активно использует 4–8 GPU.

В этой зоне выбор уже нельзя делать только по цене одной GPU. Нужно учитывать, как вся система работает под нагрузкой: CPU, память, сеть, локальное хранилище, охлаждение, драйверы, контейнеры, планировщик задач и мониторинг.

Корпоративная система под ключ

DGX стоит рассматривать, если компания хочет получить не просто сервер, а стандартизированную AI-платформу. Это вариант для случаев, когда важны:

• единая поддержка;
• быстрый запуск;
• предсказуемая архитектура;
• снижение интеграционных рисков;
• понятный путь масштабирования;
• готовность к крупным enterprise AI-проектам.

DGX редко бывает оптимальным первым шагом для небольшой команды. Но для крупной организации, где стоимость задержек и ошибок интеграции выше стоимости оборудования, такая система может быть оправдана.

Выбор платформы по сценарию

Эта таблица не заменяет расчёт конфигурации, но помогает быстро отсеять неподходящие варианты. Если задача не требует постоянного обмена между GPU, начинать стоит с PCIe. Если несколько GPU должны работать как единый вычислительный узел, нужно смотреть на SXM/HGX. Если нужна готовая корпоративная платформа, стоит оценивать DGX.

Что проверить перед покупкой GPU-сервера

GPU-сервер нельзя выбирать только по названию видеокарты. Особенно если речь идёт о H100, H200, A100 или плотных системах на несколько GPU. Ошибка на уровне стойки, питания или охлаждения может обнулить преимущества дорогих ускорителей.

Стойка и физическая установка

Перед покупкой нужно проверить:

• высоту сервера;
• глубину стойки;
• вес оборудования;
• доступ спереди и сзади;
• место для кабелей;
• возможность безопасно выдвигать и обслуживать сервер;
• совместимость с направляющими;
• ограничения по нагрузке на стойку.

Мощные GPU-серверы часто тяжелее и глубже обычных вычислительных узлов. Если сервер физически не помещается в стойку или его неудобно обслуживать, это быстро превращается в эксплуатационную проблему.

Питание

Нужно заранее посчитать не только потребление GPU, но и всю систему:

• CPU;
• память;
• накопители;
• сетевые карты;
• вентиляторы;
• контроллеры;
• запас на пиковую нагрузку.

Отдельно проверяют:

• мощность блоков питания;
• схему резервирования;
• типы кабелей;
• PDU;
• доступную мощность на стойку;
• требования дата-центра;
• возможность будущего расширения.

Сервер с несколькими мощными GPU может потреблять столько, что обычная офисная серверная или неподготовленная стойка не подойдут. Это особенно важно для SXM/HGX и DGX.

Охлаждение

GPU под долгой нагрузкой выделяют много тепла. Недостаточное охлаждение приводит не только к риску отказа, но и к снижению производительности: ускорители могут ограничивать частоты, чтобы не перегреваться.

Проверить нужно:

• воздушное или жидкостное охлаждение используется;
• направление воздушного потока;
• допустимую температуру на входе;
• плотность тепловыделения на стойку;
• состояние вентиляторов;
• наличие правильных заглушек и воздуховодов;
• состояние радиаторов и термопрокладок;
• требования производителя к размещению.

Для refurbished-серверов важно отдельно проверять состояние системы охлаждения. Хорошая GPU в плохом тепловом контуре не покажет ожидаемую производительность.

Сеть

Если сервер используется только для локального инференса, сеть может быть относительно простой. Но при обучении, RAG, работе с большими датасетами и масштабировании на несколько узлов сеть становится критичной.

Перед покупкой нужно понять:

• будет ли сервер работать один или в кластере;
• нужна ли сеть 100/200/400 GbE или InfiniBand;
• где хранятся датасеты;
• как быстро модели и данные должны загружаться в сервер;
• сколько пользователей или сервисов будут обращаться к GPU;
• есть ли подходящие коммутаторы;
• не станет ли сеть главным узким местом.

GPU простаивает так же дорого, как и работает. Если данные не успевают поступать на сервер, покупка мощных ускорителей не даёт ожидаемого эффекта.

ПО, драйверы и управление

Аппаратная часть — только половина проекта. Нужно заранее проверить программную среду:

• версии драйверов NVIDIA;
• совместимость CUDA;
• поддержку контейнеров;
• Kubernetes, если он используется;
• мониторинг GPU;
• управление заданиями;
• поддержку MIG или vGPU, если нужно делить ресурсы;
• обновления прошивок;
• совместимость с фреймворками.

Например, для универсального сервера с несколькими командами может быть важно делить GPU между задачами. Тогда нужно заранее понять, поддерживает ли выбранная карта MIG, как будет устроено планирование задач и кто отвечает за мониторинг.

Для таких сценариев часто рассматривают NVIDIA A100 80 GB PCIe, потому что она может быть интересна как для инференса, так и для более тяжёлых AI-нагрузок. Но итоговая пригодность зависит от платформы, а не только от названия GPU.

Гарантия, поставка и расширение

GPU-серверы покупают не на один месяц. Поэтому важно проверить:

• срок гарантии;
• кто выполняет ремонт;
• есть ли замена компонентов;
• доступны ли совместимые GPU;
• можно ли расширить сервер позже;
• хватит ли питания и охлаждения для расширения;
• есть ли запас по PCIe-слотам;
• какие сроки поставки у нужных карт;
• как быстро можно заменить отказавший компонент.

В refurbished-сегменте это особенно важно. Экономия на покупке должна сочетаться с понятной гарантией, проверкой оборудования и реальной возможностью обслуживания.

Частые ошибки при выборе PCIe, SXM, HGX и DGX

1. Сравнивать PCIe, SXM, HGX и DGX как одинаковые категории. Это приводит к неправильным выводам: например, «DGX лучше PCIe», хотя на самом деле сравниваются готовая система и формат подключения GPU.
2. Покупать максимальное количество GPU без понимания нагрузки. Если задачи независимы, несколько GPU можно использовать эффективно даже без сложной топологии. Если задача единая и распределённая, слабая связь между GPU станет ограничением.
3. Считать, что NVLink и NVSwitch нужны всегда. Для обучения крупных моделей они могут быть критичны. Для отдельных инференс-сервисов их важность может быть намного ниже.
4. Считать PCIe «слабым» вариантом. PCIe-сервер может быть отличным выбором для инференса, RAG, тестирования, VDI, рендеринга и смешанных корпоративных задач.
5. Покупать SXM/HGX без проверки дата-центра. Такие системы требуют питания, охлаждения, места, правильной стойки и сервисного доступа. Если инфраструктура не готова, сервер может оказаться сложнее в эксплуатации, чем ожидалось.
6. Забывать о сети. Для нескольких GPU внутри одного сервера важна внутренняя топология. Для нескольких серверов важна сеть между узлами. Без неё кластер может не раскрыть производительность.
7. Смотреть только на цену GPU. В стоимость владения входят сервер, питание, охлаждение, сеть, поддержка, ремонт, простои, лицензии и работа команды.
8. Покупать DGX там, где достаточно OEM PCIe-сервера. DGX хорош как готовая enterprise-платформа, но для небольших задач может быть слишком дорогим решением.
9. Покупать PCIe там, где нужна плотная GPU-топология. Если модель активно использует 4–8 GPU как единый пул, лучше заранее рассматривать SXM/HGX или DGX.
10. Не учитывать будущие требования. Сегодня может хватать одной GPU, а через год понадобится больше памяти, больше сетевой пропускной способности или другая топология. Лучше заранее понимать, где у выбранной платформы предел роста.

Как выбрать GPU-платформу без лишней переплаты

Начинать нужно не с названия GPU, а с задачи. Последовательность может быть такой:

• Определите тип нагрузки: инференс, обучение, RAG, HPC, графика, VDI или смешанные задачи.
• Проверьте, помещается ли модель в одну GPU.
• Оцените, должны ли GPU постоянно обмениваться данными.
• Посчитайте нужный объём видеопамяти.
• Определите, сколько пользователей, сервисов или команд будут использовать сервер.
• Проверьте требования к сети и хранилищу.
• Оцените ограничения стойки, питания и охлаждения.
• Решите, важнее гибкость или готовая стандартизированная система.
• Сравните стоимость покупки и стоимость владения.
• Проверьте гарантию, сроки поставки и возможность расширения.

После этого выбор обычно становится понятнее:

1. PCIe — если нужна гибкость, умеренный бюджет и универсальный сервер;
2. SXM/HGX — если нужны плотные вычисления и быстрая связь между несколькими GPU;
3. DGX — если нужна готовая enterprise-платформа с поддержкой и минимальными интеграционными рисками.

Для универсальных задач в PCIe-сегменте можно также рассматривать новые серверные карты вроде NVIDIA RTX PRO 6000 Blackwell Server Edition, если важны большая видеопамять, современные AI-возможности и совместимость с серверными сценариями. Но и здесь окончательный выбор зависит от нагрузки, корпуса, питания и охлаждения.

Что выбрать в большинстве случаев

Для большинства компаний первым кандидатом будет PCIe GPU-сервер. Он гибче, доступнее, проще в обслуживании и лучше подходит для инференса, RAG, тестов, аналитики, графики и смешанных задач. Такой вариант особенно хорош, если нагрузка может распределяться между независимыми GPU и не требует постоянного обмена данными между всеми ускорителями.

SXM/HGX стоит выбирать, когда задача уже выросла из универсального PCIe-сервера. Это сценарии с 4–8 GPU, обучением больших моделей, HPC и высокой плотностью вычислений. Здесь важны не только сами GPU, но и NVLink, NVSwitch, охлаждение, питание, сеть и готовность дата-центра.

DGX оправдан, когда компания хочет купить не просто сервер, а готовую AI-платформу. Это выбор для enterprise-сценариев, где важны стандартизация, поддержка, быстрый запуск и снижение рисков интеграции. Но для небольших команд и прикладного инференса DGX часто будет избыточен.

Лучшей платформы «вообще» не существует. Есть подходящая платформа под конкретную нагрузку, бюджет, сроки и инфраструктуру. Поэтому перед покупкой GPU-сервера стоит сначала описать сценарий использования, требования к видеопамяти, количество GPU, сеть, питание и охлаждение. Это помогает не переплатить за избыточную систему и не купить сервер, который не сможет раскрыть потенциал установленных GPU.