На конференции Future of Memory and Storage (FMS) Nvidia анонсировала два шага по ускорению доступа ИИ-нагрузок к данным: открытие исходников API cuFile и запуск отраслевой инициативы Storage-Next, объединяющей более 40 производителей.
cuFile становится открытым
cuFile — библиотека из платформы GPUDirect Storage (GDS), которая позволяет не только CPU, но и GPU напрямую читать и писать в хранилище. Развитие API переходит под эгиду Accelerated IO Special Interest Group (xio-sig) — консорциума, занимающегося открытыми стандартами высокопроизводительного низколатентного ввода-вывода. Первыми контрибьюторами уже заявлены Google, Intel, Nvidia и Meta.
По словам Джейсона Харди, вице-президента Nvidia по технологиям хранения, цель — сделать cuFile более открытой основой для AI-native storage, а не проприетарным интерфейсом Nvidia. Проблема, которую решает библиотека, проста: GPU становятся быстрее, и хранилище всё чаще оказывается узким местом. cuFile должен повысить пропускную способность, снизить задержки, поднять утилизацию GPU и ускорить обучение и инференс. «Сотни тысяч потоков GPU, быстрая память с высокой пропускной способностью и другие подходы позволяют cuFile безопасно получать доступ к данным из хранилища за микросекунды», — пишет Харди.
Storage-Next: единые правила для GPU-хранилищ
Nvidia также станет лидером новой инициативы Storage-Next, которая соберёт более 40 производителей систем хранения, вендоров контроллеров, компании из области термодизайна, охлаждения и оркестрации, а также организации по стандартизации. Задача — договориться, как должны вести себя GPU-ориентированные хранилища, и превратить наработки в открытые отраслевые стандарты. В группу войдут DDN, Kioxia и Micron.
В основе инициативы — масштабируемый ускоренный доступ к данным (SCADA): фреймворк, который позволяет массово-параллельным GPU подтягивать из хранилища только те данные, что нужны приложению, сразу в собственную высокоскоростную память. DDN уже интегрирует SCADA с платформой Infinia: по словам технического директора DDN Свена Оме, это создаёт «более прямой и эффективный путь между GPU и данными», удерживая ускоренные вычисления продуктивными и ускоряя путь к инсайтам.
Харди также связывает открытие cuFile с безопасностью: быстрый и безопасный доступ к данным — базовая составляющая превентивных и детективных мер киберзащиты, а открытые технологии такого рода поддерживают инициативы вроде нового Open Secure AI Alliance. «Сотни тысяч потоков GPU, быстрая память с высокой пропускной способностью и другие подходы позволяют cuFile безопасно получать доступ к данным из хранилища за микросекунды», — пишет он.
Storage-Next и SCADA продолжают многолетнюю работу Nvidia над ИИ-инфраструктурой, включая платформу Vera BlueField-4 STX — модульный стоечный фундамент на базе Vera Rubin, процессоров хранения Vera BlueField-4 и сетевых технологий Spectrum-X Ethernet. STX объединяет пакеты Vera, Rubin и BlueField-4 в единую систему для высокопроизводительного хранения, корпоративных ИИ-данных и памяти и, по замыслу Nvidia, служит образцом для перевода традиционных систем хранения на новый уровень.
Источник: networkworld.com