Компания Kioxia готовится к тому, чтобы изменить существующую парадигму хранения данных с помощью своего нового продукта. В планах у компании находится релиз SSD нового типа, разработанного специально для преодоления планки в 10 миллионов операций ввода/вывода в секунду (IOPS) при работе с небольшими блоками данных. Об этом компания сообщила в рамках публикации результатов своего корпоративного стратегического совещания, состоявшегося на прошлой неделе. 10 миллионов IOPS - это в три раза быстрее пиковых скоростей любого из современных SSD.
Технические характеристики нового SSD Kioxia
Для достижения целевых показателей производительности Kioxia разрабатывает новый контроллер, специально настроенный для максимизации IOPS. Одна из ключевых задач, продиктованная непрерывным развитием искусственного интеллекта и связанных с ним вычислений - позволить GPU получать доступ к данным со скоростями, достаточными для постоянной 100% загрузки их вычислительных ядер. Как раз достижение этой цели должен обеспечить результат в более чем 10 миллионов IOPS для блоков размером 512 байт. На сегодняшний день, одним из узких мест производительности серверов ИИ является передача данных между хранилищем и графическими процессорами (GPU), поскольку в настоящее время данные передаются через центральный процессор (CPU), что значительно увеличивает задержки и продлевает время доступа. В то же время, разрабатываемый ИИ-SSD от Kioxia будет использовать разработанную компанией память XL-Flash на основе одноуровневых ячеек (Single-Level Cell, SLC), которая характеризуется задержками чтения в диапазоне от 3 до 5 микросекунд. Это значительно ниже задержек в 40–100 микросекунд, характерных для SSD на базе традиционной 3D NAND. Кроме того, храня только один бит на ячейку, SLC обеспечивает более быстрое время доступа и большую долговечность (endurance) — характеристики, которые имеют решающее значение для требовательных рабочих нагрузок ИИ.
Источник изображений: Kioxia
Современные высокопроизводительные серверные SSD обычно достигают 2–3 миллионов IOPS как для операций случайного чтения 4K, так и 512-байтовых блоков. С точки зрения пропускной способности использование 4К-блоков имеет больше смысла, чем выбор в пользу 512-байтовых блоков. Однако большие языковые модели (LLM) и системы генерации с дополненной выборкой (RAG) обычно выполняют небольшие, случайные обращения для поиска и выборки эмбеддингов, параметров или записей в базе знаний. В этих сценариях малые размеры блоков, такие как 512 байт, более точно отражают реальное поведение приложений, чем 4K или более крупные блоки. Следовательно, для удовлетворения потребностей LLM и RAG с точки зрения задержек оправдано использование 512-байтовых блоков, а для обеспечения пропускной способности можно использовать несколько накопителей.
Примечательно, что сейчас Kioxia не раскрывает, какой сетевой интерфейс будет использоваться в её новом ИИ-SSD - хотя, судя по требованиям к пропускной способности, скорее всего, здесь не потребуется интерфейс PCIe 6.0.
Оптимизация SSD Kioxia для GPU
ИИ-SSD от Kioxia также будет оптимизирован для прямого взаимодействия (peer-to-peer) между GPU и SSD, минуя CPU для получения дополнительной производительности и снижения задержек. Здесь раскрывается ещё одна причина, почему Kioxia (в сотрудничестве с NVIDIA) планирует использовать именно 512-байтовые блоки: GPU обычно работают с кэш-линиями размером 32, 64 или 128 байт, и их подсистемы памяти оптимизированы для пакетного доступа ко множеству небольших независимых областей памяти, чтобы все потоковые процессоры были постоянно загружены. В этом контексте операции чтения по 512 байт лучше соответствуют архитектуре GPU.
ИИ-SSD от Kioxia предназначен для поддержки систем обучения ИИ, где большим языковым моделям (LLM) требуется быстрый, многократный доступ к огромным наборам данных. Кроме того, Kioxia предполагает его развертывание в приложениях для ИИ-вывода (инференса), особенно в системах, использующих методы генерации с дополненной выборкой (RAG) для улучшения инференса благодаря работе с данными в режиме реального времени (в первую очередь можно вспомнить рассуждающие модели). Низкая задержка и высокая пропускная способность при доступе к данным имеют решающее значение для таких машин, позволяя обеспечить как низкое время отклика, так и эффективную загрузку GPU.
В настоящий момент релиз ИИ-SSD от Kioxia запланирован на вторую половину 2026 года.
