AMD представила Helios — свою самую масштабную на сегодня заявку в области ИИ-инфраструктуры. Это цельная платформа, с которой компания собирается всерьёз потягаться с доминирующей NVIDIA.
Что внутри стойки
- 72 видеокарты AMD Instinct MI455X;
- процессоры AMD EPYC Venice;
- сеть AMD Pensando Vulcano на базе UALink;
- 31 ТБ памяти HBM4;
- пропускная способность памяти 19,6 ТБ/с;
- жидкостное охлаждение с быстроразъёмными коннекторами;
- вычислительная мощность до 2,9 EFLOPS в FP4 и 1,4 EFLOPS в FP8.
Система построена на открытых отраслевых стандартах: OCP Open Rack Wide (ORW), Ultra Accelerator Link (UALink) и спецификациях Ultra Ethernet Consortium (UEC). По части безопасности заявлены аппаратный корень доверия, постоянная аттестация, аппаратная изоляция, а также шифрование памяти и межсоединений для мультиарендных сред.
Чем берёт против NVIDIA
По словам Парика Джайна, гендиректора EIIRTrend, Helios предлагает примерно на 50% больше общей памяти, чем конкурирующая система NVIDIA, и использует открытые отраслевые стандарты связи вместо проприетарных технологий — а значит, у покупателя больше свободы.
Главный козырь — объём памяти и соотношение цены и возможностей. Главная слабость — зрелость софта, особенно на фоне устоявшейся экосистемы NVIDIA CUDA.
Софт
Helios работает на программной платформе AMD ROCm с поддержкой PyTorch, TensorFlow и JAX как для обучения, так и для инференса.
Первые внедрения
Microsoft уже обязалась развернуть Helios для инференса передовых ИИ-моделей и сервисов Azure AI.
О чём думать бизнесу
ИТ-директорам предстоит взвесить производительность, готовность софта, сроки развёртывания и совокупную стоимость владения. Отдельный нюанс: технологии связи у AMD и NVIDIA несовместимы, объединить их в одну машину нельзя — но в рамках одного дата-центра обе системы вполне могут работать бок о бок.