Broadcom начала отгрузку своего семейства коммутаторов Jericho4, позиционируя их как самое передовое решение для Ethernet-маршрутизации, предназначенное для масштабируемых ИИ-систем в современных ЦОД. Специально разработанный для удовлетворения растущих потребностей ИИ-инфраструктуры, Jericho4 располагает впечатляющими возможностями коммутации - 51,2 Тбит/с lossless Ethernet с глубокой буферизацией. В результате рабочие нагрузки ИИ можно легко масштабировать между стойками, кластерами и даже географически распределенными локациями без ущерба для надежности или производительности.
Предпосылки для создания Jericho4
Модели искусственного интеллекта быстро превосходят возможности и физические ограничения отдельных центров обработки данных. Также, дополнительный набор проблем возникает из-за необходимости распределения XPU (ускорителей, к которым относятся GPU и TPU) по нескольким объектам, каждый из которых потребляет мегаватты электроэнергии. В то же самое время, крайне важной остается потребность в высокоскоростной передаче данных без каких-либо задержек и потерь, на расстояния в пределах мегаполиса и даже региона.
Источник изображений: Broadcom
Рам Велага (Ram Velaga), старший вице-президент и генеральный менеджер подразделения Core Switching Group компании Broadcom, подчеркивает, что эра ИИ требует сетевых решений, способных поддерживать распределенные вычислительные среды, включающие в себя более миллиона XPU. Велага пояснил, что семейство Jericho4 разработано для создания Ethernet-систем, выходящих за границы отдельных ЦОД и поддерживающих передачу по протоколу RoCE (RDMA over Converged Ethernet) на большие расстояния (свыше 100 км), а также расширенное управление перегрузками и высокоэффективные интерконнекты.
Ключевые характеристики чипа Jericho4
Семейство Jericho4 создано для горизонтального масштабирования (scale-out) между центрами обработки данных, предоставляя набор функций, отвечающих специфическим потребностям ИИ-нагрузок. Основные технические характеристики новых чип-коммутаторов включают в себя:
Коммутация 51,2 Тбит/с с глубокой буферизацией
Такая пропускная способность критически важна для ИИ-нагрузок, требующих перемещения больших объемов данных между тысячами GPU и другими типами ускорителей. Функция буферизации позволяет справляться с резкими “всплесками” данных без потери пакетов, гарантируя высокую производительность и надежность при распределенном обучении ИИ.
Интерфейсы HyperPort 3,2T
HyperPort объединяет четыре порта Ethernet 800 Gigabit (800GE) в единый канал 3,2 Терабит в секунду (3,2T), упрощая проектирование и управление сетью. Это сокращает количество необходимых линков между коммутаторами и серверами, одновременно минимизируя переупорядочивание пакетов и сетевую неэффективность. В результате пользователи могут решать свои задачи на 40% быстрее и с лучшей утилизации сети. Результат - более эффективное обучение моделей ИИ и использование вычислительных ресурсов.
MACsec
MACsec (Media Access Control Security) — это стандарт шифрования данных на уровне Ethernet. Коммутатор Jericho4 поддерживает MACsec на полной скорости линии (line rate), позволяя выполнять шифрование и дешифрование без потери производительности. С поддержкой более 200 000 политик безопасности он обеспечивает максимальный возможный контроль, что критически важно для мультитенантных сред. Это гарантирует защиту конфиденциальных данных ИИ при их быстром перемещении по масштабной инфраструктуре.
Снижение энергопотребления на 40%
Энергоэффективность становится критически важной по мере роста центров обработки данных для поддержки более крупных ИИ-моделей и большего числа пользователей. Архитектура Jericho4 обеспечивает 40% снижение энергопотребления на бит передаваемых данных по сравнению с предыдущими поколениями. Это снижает эксплуатационные расходы и помогает организациям масштабировать ИИ-инфраструктуру без значительного увеличения энергопотребления.
SerDes 200G PAM4
Технология SerDes (Serializer/Deserializer) обеспечивает высокоскоростную передачу данных по медным или оптоволоконным линиям связи. Чип Jericho4 поддерживает SerDes 200G PAM4, позволяя достигать более высоких скоростей передачи данных на больших расстояниях по сравнению с предыдущими технологиями. Это позволяет соединять коммутаторы и серверы на территории крупных кампусов ЦОД без ущерба для скорости или надежности.
Совместимость и первые тесты Jericho4
Jericho4 совместим с любыми сетевыми картами (NIC) или XPU, использующими Ethernet. Эта гибкость позволяет организациям интегрировать различные вычислительные системы и устройства хранения в свою ИИ-архитектуру, без необходимости привязываться к одной определенной экосистеме. Первые тесты новых чип-коммутаторов в реальных рабочих нагрузках продемонстрировали надежность и эффективность Jericho4. Одна система может масштабироваться до 36 000 портов HyperPort, каждый из которых работает на скорости 3,2 Тбит/с с поддержкой RoCE на расстояниях свыше 100 километров.
Источник изображений: Broadcom
Ethernet-платформа Broadcom для ИИ
Jericho4 является ключевой частью комплексной Ethernet-платформы Broadcom для ИИ, которая также включает:
-
Tomahawk 6 - коммутатор 102,4 Тбит/с для горизонтального (scale-out) и вертикального (scale-up) масштабирования.
-
Tomahawk Ultra - коммутатор 51,2 Тбит/с для высокопроизводительных вычислений (HPC) и вертикального масштабирования ИИ (scale-up).
-
Семейство Thor - Ethernet-адаптеры (NIC), оптимизированные для ИИ.
-
Другие продукты, включая ретаймеры, DSP и оптику третьего поколения Co-Packaged Optics.
Вместе эти продукты составляют открытую, масштабируемую платформу для создания ИИ-инфраструктуры на базе Ethernet любого масштаба — от тесно связанных кластеров GPU до развертываний в пределах целого региона.
Конкуренты Broadcom
Jericho4 от Broadcom выходит на конкурентный рынок, где гиперскейлеры и поставщики ИИ-инфраструктуры стремятся преодолеть ограничения устаревших решений на базе InfiniBand и традиционного Ethernet. NVIDIA со своими InfiniBand коммутаторами Quantum и Ethernet-коммутаторами Spectrum-X продолжает оставаться доминирующим игроком на рынке сетей для ИИ, особенно для кластеров GPU. Однако, заметна тенденция роста инвестиций в современные Ethernet решения для ИИ-фабрик от конкурирующих компаний - в частности, Cisco со своей серией Nexus и Arista Networks активно вкладываются в высокопроизводительную коммутацию Ethernet, оптимизированную для ИИ. Таким образом, Jericho4 ещё предстоит обойти конкурентов в честной борьбе - сейчас лишь можно сказать, что у Jericho4 есть убедительное ценностное предложение для организаций, стремящихся создавать открытую, масштабируемую инфраструктуру, которая позволит эффективно решать ИИ-задачи в ближайшие годы.
