Характеристики NVIDIA DGX A100 Новый
Описание NVIDIA DGX A100
NVIDIA DGX A100 — интегрированная вычислительная система для обучения, дообучения и инференса моделей искусственного интеллекта, ускоренной аналитики и высокопроизводительных вычислений (HPC). Платформа разработана для организаций, которым требуется собственная инфраструктура для работы с ресурсоемкими ИИ-нагрузками и большими объемами данных.
DGX A100 объединяет восемь ускорителей NVIDIA A100 Tensor Core, высокоскоростную межсоединительную фабрику NVLink, процессорную подсистему AMD EPYC, сетевые адаптеры NVIDIA ConnectX и оптимизированный программный стек NVIDIA DGX OS в единую готовую к эксплуатации платформу. Такой подход снижает сложность проектирования GPU-инфраструктуры и позволяет быстрее развернуть вычислительную среду для машинного обучения, аналитики и научных расчетов.
Вычислительная архитектура для крупных моделей
NVIDIA DGX A100 построена на архитектуре NVIDIA Ampere и оснащена восемью ускорителями NVIDIA A100 Tensor Core GPU. В конфигурации DGX A100 640GB система предоставляет 640 ГБ общей GPU-памяти HBM2, распределенной между восемью ускорителями. Каждый GPU поддерживает тензорные вычисления с использованием различных форматов точности, включая FP64, FP32, TF32, FP16 и INT8, что позволяет эффективно выполнять широкий спектр задач искусственного интеллекта.
Тензорные ядра третьего поколения и технология NVIDIA Multi-Instance GPU (MIG) позволяют разделять физический GPU на несколько изолированных вычислительных экземпляров. Это дает возможность одновременно выполнять несколько независимых задач с гарантированным выделением вычислительных ресурсов, что особенно важно для корпоративных сред с большим количеством пользователей и проектов.
Шесть коммутаторов NVIDIA NVSwitch второго поколения обеспечивают высокоскоростное взаимодействие между восемью GPU. Пропускная способность межсоединения GPU-to-GPU достигает 600 ГБ/с, что позволяет эффективно масштабировать обучение больших моделей и выполнять распределенные вычисления внутри одного узла.
Вычислительную подсистему дополняют два процессора AMD EPYC 7742 с общей конфигурацией до 128 ядер. Системная память объемом до 2 ТБ используется для подготовки данных, работы контейнеров, управления вычислительными процессами и обслуживания CPU-зависимых операций.
Для подключения к кластерной инфраструктуре DGX A100 поддерживает сетевые адаптеры NVIDIA ConnectX-6 или ConnectX-7 с пропускной способностью до 200 Гбит/с для InfiniBand или Ethernet. Это позволяет объединять несколько систем DGX в масштабируемые вычислительные кластеры для обучения моделей корпоративного уровня.
Основные сценарии применения
-
Обучение и дообучение моделей ИИ.
Создание и адаптация крупных языковых моделей, компьютерного зрения, рекомендательных систем и специализированных нейронных сетей на собственных данных.
-
Генеративный искусственный интеллект.
Развертывание корпоративных решений на базе больших языковых моделей (LLM), систем поиска с генерацией ответов (RAG), интеллектуальных помощников и сервисов обработки естественного языка.
-
Высокопроизводительные вычисления.
Научные исследования, инженерное моделирование, вычислительная биология, анализ данных и другие задачи, требующие ускорения GPU-вычислений.
-
Компьютерное зрение и анализ данных.
Обработка изображений и видео, промышленная аналитика, распознавание объектов, контроль качества и автоматизация производственных процессов.
-
Консолидация ИИ-нагрузок.
Использование Multi-Instance GPU позволяет разделять вычислительные ресурсы между несколькими командами и приложениями без необходимости выделять отдельный физический ускоритель для каждой задачи.
NVIDIA DGX A100 в корпоративной инфраструктуре
NVIDIA DGX A100 предназначена для компаний и исследовательских организаций, которым требуется специализированная вычислительная платформа для постоянной работы с искусственным интеллектом. Система подходит для построения собственной ИИ-инфраструктуры, где требуется полный контроль над вычислительными ресурсами, данными и программной средой.
Платформа может использоваться как самостоятельный вычислительный узел или как часть масштабируемого кластера. При построении инфраструктуры на базе нескольких DGX A100 организации получают возможность создавать распределенные среды обучения моделей, ускорять обработку больших массивов данных и обеспечивать работу производственных ИИ-сервисов.
DGX A100 объединяет аппаратные компоненты, сетевые технологии и программное обеспечение NVIDIA в единую архитектуру, что упрощает внедрение корпоративного искусственного интеллекта и сокращает время от подготовки инфраструктуры до запуска рабочих нагрузок.
