Несколько дней назад в продажу по всему миру поступили уникальные компактные рабочие станции Nvidia на архитектуре Grace-Blackwell. Впервые эту мини-рабочую станцию для искусственного интеллекта показали на выставке CES почти год назад, и все это время она была известна под кодовым названием Project Digits. В итоге система получила название DGX Spark - по размеру она сопоставима с NUC (Next Unit of Computing, также известный как мини-ПК), при этом её производительность достигает одного петафлопса для вычислений в формате FP4, она располагает 128 гигабайтами единой системной памяти и поддерживает высокоскоростное сетевое соединение до 200 Гбит/с. Некоторые специалисты уже говорят о том, что эта рабочая станция станет must-have вещью для разработчиков в сфере ИИ - а может, и для некоторых руководителей. В чём именно преимущества этой необычной рабочей станции, и почему она привлекла особое внимание в отрасли - разбираемся далее.
Задачи, которые решает DGX Spark
В первую очередь следует отметить (или, если быть точнее, повториться) что данная система изначально не ориентирована на рядового покупателя. Устройства, которые также будут выпускаться партнёрами-производителями (OEM) под различными брендами не будут поставляться с предустановленной Windows - вместо неё на станции установлена специальная версия Ubuntu Linux.
Платформа Spark фактически создана для разработчиков в сфере ИИ и робототехники, специалистов по данным и исследователей машинного обучения, которые ищут доступное рабочее решение, сохраняющее возможность работать с моделями объёмом до 200 миллиардов параметров.
Подобные задачи невероятно требовательны к памяти, поэтому запускать их на обычных видеокартах просто непрактично. Да, мощные карты для рабочих станций, такие как RTX Pro 6000, могут оснащаться 96 ГБ высокоскоростной памяти GDDR7, но одна такая карта обойдётся вам больше чем в восемь тысяч долларов (650 000 руб. по текущему курсу) — и это ещё без учёта стоимости остальных компонентов системы.
На момент своего выхода DGX Spark формально является решением для рабочих станций с наибольшим объёмом памяти — по крайней мере, до появления модели DGX Station на базе будущего чипа Blackwell Ultra.
Внутри — уменьшенный суперчип NVIDIA
Сердцем DGX Spark стал системный чип GB10, который, по сути, представляет собой миниатюрную версию суперчипов Grace-Blackwell, используемых в флагманских системах NVL72.
Источник изображений: ServeTheHome
GB10 состоит из двух вычислительных кристаллов, которые соединены между собой с помощью фирменной технологии Nvidia — межчипового интерфейса NVLink, обеспечивающего скорость 600 ГБ/с. Эта же технология в перспективе будет использоваться для подключения графических процессоров Nvidia к будущим клиентским процессорам Intel — в рамках партнёрства двух титанов индустрии полупроводников.
Графическая часть чипа способна выдавать производительность до одного петафлопса для вычислений в FP4 или примерно 31 терафлопс для операций с одинарной точностью (FP32). Это ставит её в один ряд с картой RTX 5070 с точки зрения чистой производительности. Да, нельзя не заметить, что RTX 5070 за 550 долларов предлагает более чем вдвое большую пропускную способность памяти, но при этом скромные 12 ГБ GDDR7 сильно ограничат вас в выборе моделей и задач ИИ, которые можно будет запустить.
В отличие от оригинального процессора Nvidia Grace, вычислительные ядра в GB10 не используют Arm Neoverse V2. Этот чип был разработан совместно с MediaTek и оснащён 20 ядрами архитектуры ARMv9.2. Десять из них — это высокопроизводительные ядра Arm X925, а остальные десять — энергоэффективные ядра Cortex A725.
По аналогии с чипами Apple M-series и AMD Strix Halo, и процессорная, и графическая части GB10 используют общую память типа LPDDR5X. И памяти здесь - 128 ГБ. Благодаря тесной интеграции вычислений и памяти, производителям чипов удалось добиться более чем двукратного превосходства в пропускной способности по сравнению с обычными платформами для ПК. Nvidia заявляет о пропускной способности памяти в 273 ГБ/с для чипа GB10.
Другие технические характеристики DGX Spark
Источник изображений: ServeTheHome
Также, в рамках нашего обзора, мы не могли не рассказать о всех доступных портах. Здесь нужно взглянуть на устройство с другого ракурса - на задней панели расположена кнопка питания, порт USB Type-C по стандарту USB PD, три порта USB 3 Type-C со скоростью 20 Гбит/с и поддержкой DisplayPort alt mode. Следующий порт — HDMI.
Что касается сети, здесь есть порт 10GbE на чипе Realtek. К счастью, его драйвер уже встроен в DGX OS, так что нет необходимости устанавливать его отдельно. Однако самое интересное, о чем определенно стоит рассказать — это сетевые карты NVIDIA ConnectX-7. Давайте подробно разберем этот вопрос.
Возможности масштабирования
Одна особенность, которая есть в Spark, которую вы не найдёте в других системах, — это встроенная высокоскоростная сетевая карта. Как и в датацентровых платформах Nvidia, чип GB10 здесь дополнен интегрированной сетевой картой ConnectX-7, на задней панели расположены два порта QSFP Ethernet. Это порты 200GbE QSFP56, а значит, что они используют четыре канала с передачей данных 56 Гбит/с / 50 Гбит/с по технологии PAM4.
Хотя теоретически их можно использовать для высокоскоростного подключения к сети, на самом деле эти порты предназначены для прямого соединения двух систем DGX Spark друг с другом, что позволяет быстро и эффективно удвоить их возможности для тонкой настройки моделей и логического вывода.
В такой конфигурации, как утверждает Nvidia, пользователи смогут выполнять логический вывод для моделей размером до 405 миллиардов параметров с 4-битной точностью.
Производительность NVIDIA DGX Spark
На самом деле, производительность DGX Spark стоит разобрать отдельно. Как мы уже успели упомянуть, по вычислительной мощности в операциях с FP4 (примерно 1 Петафлопс) этот GPU примерно соответствует GeForce RTX 5070. Это не устройство уровня RTX 5090, и в первую очередь из-за своих скромных размеров. И пропускная способность памяти здесь не такая высокая. Но главное, что Spark может предложить единый пул памяти объёмом 128 ГБ. Это значит, что мы можем одновременно загружать несколько моделей и работать с более крупными модулями. Если перейти к конкретным цифрам - даже на стандартной, нетронутой Ollama «из коробки» с моделью OpenAI gpt-oss 20B можно стабильно получать больше 49 токенов в секунду.
Источник изображений: ServeTheHome
Однако, совсем не обязательно на этом останавливаться. При помощи DGX Spark можно запускать и большие модели, например, gpt-oss 120B, где результат оказался равен 14.48 токенов в секунду. Модель Qwen3 32b — тоже весьма достойный пример, и «с коробки» мы получили результат 9-10 токенов в секунду.
Ключевые выводы
Подводя итоги, можно вернуться к мысли о том, что из-за ограниченной пропускной способности памяти большие GPU покажут себя лучше, чем DGX Spark. Это действительно так, но здесь в первую очередь возникает вопрос сценариев применения устройства - существуют невероятные видеокарты для ИИ (RTX Pro 5000 Blackwell) - но это большие, тяжёлые и непрактичные решения. Spark же, в свою очередь, полная противоположность - и если у вас самый обычный тонкий и лёгкий ноутбук, вы легко можете получить полноценную AI-станцию, просто прихватив Spark с собой.
Более того, 128 ГБ памяти LPDDR5X и возможность масштабироваться в кластер с помощью сети 200GbE RDMA означают, что на этой системе можно запускать продвинутые модели. В ситуации, когда вам нужно протестировать локальный ИИ на своих данных, которые нельзя передавать в облако, и при этом хочется быть уверенным в точности используемой вами большой языковой модели, то возможность использовать модель с бо́льшим числом параметров становится критически важной. И DGX Spark отлично подойдет для такой задачи.
Источник изображений: ServeTheHome
Конечно, есть желание ещё увеличить пропускную способность памяти, чтобы она была выше 273 ГБ/с. Но повторимся - масштабируемая система на RTX Pro 6000 Blackwell Edition точно будет быстрее, однако она просто не может обладать компактностью и мобильностью, которую предлагает DGX Spark - в этом её главная сила.
Сейчас системы DGX Spark уже поступили в продажу сразу от нескольких компаний, в частности, Nvidia, Acer, Asus, Dell Tech, Gigabyte, HPE, Lenovo и MSI. Известно, что в варианте от Dell устройство получит название Dell Pro Max with GB10.
Вариант от Dell
Если вас заинтересовала эта уникальная рабочая станция - у нас вы можете заказать её прямо сейчас! Это уникальное предложение для российского рынка - мы приложили большие усилия, чтобы у вас была возможность первыми получить это необычное, мощное решение!
Источники: TheRegister, ServeTheHome
Нажимая кнопку «Отправить», я даю согласие на обработку и хранение персональных данных и принимаю соглашение