NVIDIA анонсировала новую плату начального уровня для периферийного ИИ — Jetson Orin Nano 2. Вместо очередного варианта существующего чипа компания разработала для этой платы новый SoC на архитектуре Orin. По заявлению вендора, производительность в задачах ИИ выросла вдвое по сравнению с оригинальной Nano, при этом плата способна выдавать тот же уровень производительности при снижении энергопотребления на 40%.
Технические характеристики и позиционирование
Jetson Orin Nano 2 занимает место между оригинальной Nano и более производительной Orin NX. Плата получила 8 ядер Arm Cortex-A78 (на два больше, чем у предшественницы), 1024 ядра CUDA и 8 ГБ памяти LPDDR5X-7500 вместо LPDDR5-6400. Пиковая производительность тензорных операций заявлена на уровне 78 TOPS (INT8 sparse). TDP новой платы — от 15 до 40 Вт, тогда как у первой Nano — от 7 до 25 Вт.
| Параметр | Orin Nano (Super) | Orin Nano 2 | Orin NX | AGX Orin |
|---|---|---|---|---|
| CPU-ядра (Cortex-A78) | 6 | 8 | 8 | 12 |
| Ядра CUDA | 1024 | 1024 | 1024 | 2048 |
| Tensor Perf (INT8 sparse) | 67 TOPS | 78 TOPS | 77 TOPS | 156 TOPS |
| Память | 8 ГБ | 8 ГБ | 16 ГБ | 64 ГБ |
| Пропускная способность памяти | 102 ГБ/с | 120 ГБ/с | 102 ГБ/с | 205 ГБ/с |
| TDP | 7–25 Вт | 15–40 Вт | 10–40 Вт | 15–60 Вт |
| Дата выхода | Q2 2023 | H1 2027 | Q1 2023 | Q1 2023 |
Новый чип Orin: архитектурные улучшения
Главная неожиданность анонса — под капотом Nano 2 находится не модификация прежнего кристалла Orin, а новый чип. Он по-прежнему сочетает ядра Cortex-A78 с GPU на архитектуре Ampere, но получил два существенных улучшения. Во-первых, это поддержка LPDDR5X — впервые среди всех продуктов Jetson Orin. Во-вторых, NVIDIA заявляет об «архитектурных и микроархитектурных» доработках GPU Ampere, которые позволили удвоить реальную производительность 32 тензорных ядер в ИИ-нагрузках.
Пиковая теоретическая производительность выросла лишь на 16%, однако, по словам NVIDIA, объём реальной работы, которую удаётся извлечь из железа, удвоился. Это говорит о том, что изменения выходят за рамки простого добавления функциональных блоков — иначе они отразились бы в цифрах TOPS. Настоящую картину можно будет оценить только после выхода платы и обновления публичной документации.
Энергопотребление и режимы работы
Новый чип позволил сдвинуть кривую производительности относительно энергопотребления. В режиме 15 Вт Nano 2 выдаёт столько же, сколько первое поколение Nano в режиме 25 Вт — отсюда и заявление о снижении потребления на 40%. При работе в новом режиме 40 Вт плата вдвое быстрее оригинальной Nano на её пиковых 25 Вт.
Часть прироста производительности обеспечивается более высоким TDP — до 40 Вт, как у Orin NX. Но способность достигать сопоставимой производительности при заметно меньшем энергопотреблении указывает на значительные архитектурные улучшения эффективности.
Место в линейке Jetson
Nano 2 дополнит оригинальную Nano в качестве начального уровня модулей Jetson: обе платы имеют по 8 ГБ памяти и ориентированы на робототехнику, дроны и системы компьютерного зрения. Orin NX и AGX Orin остаются основными продуктами Jetson, а новое семейство T-series на базе Thor располагается выше. С учётом разных объёмов памяти современный стек Jetson теперь включает девять продуктов — больше, чем когда-либо.
Отмена Atlan и новый виток Orin
Разработка нового SoC Orin — необычный шаг для NVIDIA. Раньше компания не обновляла линейку Nano подобным образом: новые SKU всегда строились на уже существующих чипах поколения. Для оригинального Orin это означало, что на плату Nano ставился урезанный кристалл с 12 ядер CPU и 2048 ядер CUDA, где половина вычислительных блоков и специализированный ускоритель DLA оставались неактивными — дорогое решение на 8-нм техпроцессе Samsung.
Новый чип, вероятно, создан как урезанная версия специально для рынка Nano — этакий «Orin Lite» с 8 ядрами CPU и 1024 ядрами CUDA с самого начала. Анонс произошёл примерно через четыре года после отмены Atlan — Arm SoC, который должен был сменить Orin в 2024 году. Частично этот пробел закрыл Thor, но его стоимость и размеры делают его неподходящим для Nano. Отмена Atlan оставила Orin единственным разумным вариантом, а четырёх лет достаточно для разработки нового чипа в ответ на это решение.
Любопытно, что NVIDIA выпускает новый чип на архитектуре Ampere: она не поддерживает точности FP8 и FP4 — только INT8. Поддержка FP4 потенциально удваивает пропускную способность тензорных операций, что было бы очень желательно для бюджетного чипа. Однако IP-блоки Orin готовы для 8-нм техпроцесса Samsung, тогда как Thor завязан на TSMC 4/3 нм — мощности, которые и так перегружены другими ИИ-продуктами. Расширение edge-линейки идёт параллельно с другими инициативами NVIDIA: компания недавно открыла cuFile и запустила Storage-Next — 40 вендоров стандартизируют GPU-хранилища, а Cisco расширила Secure AI Factory стойками Supermicro под кластеры до 100 000 GPU.
Что это значит для рынка периферийного ИИ
Появление нового чипа Orin — один из самых явных признаков того, что направление edge/robotics стало для NVIDIA крупным и самодостаточным сегментом рынка. Разработка нового кристалла оправдана только при условии, что компания рассчитывает окупить затраты на его создание за время жизненного цикла. Раньше такие расходы компенсировались использованием мобильных чипов NVIDIA в широком спектре продуктов, включая автомобильные системы DRIVE, — новая модель эту схему ломает.
Jetson Orin Nano 2 выйдет в первой половине 2027 года. Цена пока не объявлена.
Частые вопросы
Когда выйдет Jetson Orin Nano 2?
Релиз запланирован на первую половину 2027 года. Точная дата и цена пока не названы.
Чем Nano 2 отличается от оригинальной Orin Nano?
У новой платы восемь ядер CPU вместо шести, более быстрая память LPDDR5X-7500 и новый чип Orin с архитектурными улучшениями GPU. Производительность в ИИ-задачах вдвое выше, а в режиме 15 Вт она работает как предшественница на 25 Вт.
Это просто разогнанная версия старой платы?
Нет. Под капотом Nano 2 — новый SoC на архитектуре Orin, разработанный специально для этой платы. Он впервые в семействе Orin поддерживает LPDDR5X и получил доработки GPU Ampere, позволяющие удвоить реальную производительность тензорных ядер.
Подойдёт ли существующий софт для Jetson Orin?
Да. Nano 2 работает с тем же программным стеком Jetson Orin, который NVIDIA развивает последние несколько лет.
Какие задачи можно решать на Nano 2?
Плата ориентирована на классическую робототехнику, дроны и системы компьютерного зрения — тот же спектр задач, что и у первой Nano, но с большей производительностью.
Почему NVIDIA не использовала более новую архитектуру, чем Ampere?
Ampere не поддерживает FP8 и FP4, что ограничивает пиковую производительность. Однако IP-блоки Orin готовы для 8-нм техпроцесса Samsung, тогда как более новые архитектуры требуют дефицитных мощностей TSMC 4/3 нм. Выбор Orin — компромисс между производительностью, стоимостью и доступностью производства.
Что будет с оригинальной Jetson Orin Nano после выхода Nano 2?
Обе платы останутся в линейке как продукты начального уровня с 8 ГБ памяти. Nano 2 дополнит оригинальную Nano, а не заменит её.
Источник: servethehome.com