Конфигурация ориентирована на обучение моделей (Training) и дообучение моделей (Fine-tuning), когда важны масштабирование по 8 GPU, высокая пропускная способность и стабильность под длительной нагрузкой. Также платформа отлично подходит для инференса / развертывания (Inference) и RAG-систем, где решают скорость отклика, параллельные запросы и большой запас видеопамяти под KV-cache.
GPU-профиль B300 - это архитектура Blackwell с поддержкой FP16/FP8/INT8 и HBM3e, поэтому сервер подходит как для тяжелого тренинга, так и для production-serving с высоким throughput. В узле используется NVIDIA HGX B300 NVL8 с полной связностью по NVLink, а суммарный объём VRAM в этой сборке - 2304 GB (2.3 TB), что упрощает работу с крупными моделями и длинным контекстом.
В практических сценариях это означает, что можно держать большие батчи и высокий concurrency, а при росте контекста управлять расходом памяти через лимиты контекста и настройки батчинга, чтобы не упираться в KV-cache в пиковых нагрузках.
Платформа поддерживает 2× Intel Xeon Scalable 6-го поколения (в документации указано до 86 ядер на процессор), память DDR5 RDIMM - 32 слота с частотой до 6400 MT/s и максимальным объёмом до 4 TB. Для накопителей доступны фронтальные конфигурации до 16× E3.S NVMe или до 10× U.2 NVMe, а под загрузочный массив предусмотрен BOSS-N1 - 2× M.2 NVMe (HW RAID 1).
Производительность GPU
| Тип точности | Совокупная мощность HGX B300 8-GPU |
| FP8/FP6 Tensor core (training) | 72 PFLOPS |
| FP4 Tensor core (inference) | 144 PFLOPS |
Совместимость с LLM-моделями
| Модель | Тип квантизации | Требуется VRAM | Совместимость | Примечание |
| DeepSeek-R1 685B | Нет | Примерно 689GB | ✅ | Оптимально распределять на 8 GPU - остаётся большой запас VRAM под длинный контекст и батчи. |
| Qwen3.5-397B-A17B |
Нет |
Примерно 807GB | ✅ | Удобно масштабировать TP на 2-8 GPU - хороший вариант для продакшн-serving и RAG. |
| Gpt-oss:120b | Нет | Примерно 196GB | ✅ | Комфортно держать на 1-2 GPU, повышая QPS батчами и сохраняя запас под KV-cache. |
| GigaChat3-702B-A36B-preview | Нет | Примерно 720GB | ✅ | Лучше распределять на 8 GPU - стабильный throughput и длинные контексты без дефицита VRAM. |
| Mistral-Large-3-675B-Instruct-251 | Нет | Примерно 682GB | ✅ | Запускается без квантизации на 8 GPU - остаётся запас VRAM под контекст и KV-cache. |
| GLM-5 | Нет | Примерно 1.51TB | ✅ | Стабильный продакшн-запуск на 8 GPU - удобно держать высокий параллелизм запросов. |
Совместимость с диффузионными моделями
| Модель | Тип | Совместимость | Примечание |
| Stable Diffusion XL 1.0 | Текст в изображение | ✅ | Высокие разрешения и большие батчи - очереди легко распараллелить по GPU. |
| Flux.2-dev | Текст в изображение | ✅ | Большой запас VRAM под high-res и крупные батчи - распределение задач по GPU повышает throughput. |
| SD Turbo | Быстрые предпросмотры | ✅ | Максимальный throughput для предпросмотров при высокой параллельности на одном узле. |
| Kandinsky-5.0-T2I-Lite-sft-Diffusers | Текст в изображение | ✅ | Несколько пайплайнов одновременно и высокий QPS без упора в видеопамять. |
| Kandinsky-5.0-T2V-Lite-sft-5s-Diffusers | Текст в видео | ✅ | Пакетная генерация коротких роликов - удобно распараллелить по GPU без очередей. |
Технические характеристики
| Видеокарта | 8x Nvidia B300 SXM 288GB HBM3e |
| Процессор | 2× Intel Xeon 6 серии (до 86 ядер на процессор) |
| Оперативная память | до 4TB DDR5 ECC RDIMM, 32 слота |
| SSD накопители | 16x E3.S Gen5 NVMe direct SSD или 10x U.2 Gen5 NVMe SSD, а под загрузочный массив предусмотрен BOSS-N1 с 2x M.2 SSD |
Если нужна конфигурация на эту платформу под ваши задачи - свяжитесь с менеджером, и мы предложим подходящий вариант под бюджет и требования.
Нажимая кнопку «Отправить», я даю согласие на обработку и хранение персональных данных и принимаю соглашение