Qwen4-Max от Alibaba: 2,4T MoE, 71B активных параметров и контекст 1M

Alibaba выпустила Qwen4-Max — первую модель поколения Qwen4. Это проприетарная разреженная MoE-модель с 2,4T параметров в основе и 71B активных параметров на токен. Она принимает текст, изображения и видео и поддерживает контекстное окно в 1M токенов. Одновременно Alibaba снизила цены API и заявляет о падении средней стоимости задачи на 62%.

Что внутри: QSA, Gated Residual и N-gram Embedding

Архитектура Qwen4 перерабатывает разреженный MoE в трёх местах: внимание, остаточные связи и эмбеддинги.

  • GDN + Qwen Sparse Attention (QSA). Каждый слой QSA работает в паре с тремя слоями Gated DeltaNet. Они сжимают историю в состояния фиксированного размера, а QSA с помощью лёгкого индексатора выбирает релевантный контекст на уровне микроблоков. Это снижает стоимость внимания и индексации на длинных последовательностях.
  • Gated Residual (GR). Четыре параллельные остаточные ветви используют динамические гейты чтения и записи — ради более сильного потока информации и стабильности обучения.
  • N-gram Embedding. Дополнительные 328B параметров дают поиск по локальным паттернам токенов на втором слое. Это добавляет ёмкость при небольшом приросте вычислений.

Alibaba сообщает, что предобучение на масштабе 2,4T прошло без всплесков лосса. Во внутренних тестах Qwen4-Max-Base показывает на 5–13% меньше бит на байт, чем Qwen3.8-Max-Base, активируя при этом на 25% меньше параметров.

Бенчмарки: первое место в 4 из 16, отставание в коде и зрении

Сравнительная таблица Alibaba охватывает 16 бенчмарков. Соперники — Qwen3.8-Max-0902, Claude Opus 5.5, GPT-6.1 Sol, GPT-6 Astra и Kimi K3.1. Часть оценок взята из сторонних лидербордов, и ни одна не была независимо воспроизведена на момент релиза.

Qwen4-Max занимает первое место в 4 из 16 бенчмарков:

  • HLAB-Vals-1.1 (агенты в юридической работе): 21,3 против 11,7 у Kimi K3.1 и 9,2 у Opus 5.5.
  • Agents' Last Exam v1.1: 46,7 против 43,4 у Opus 5.5 и Kimi K3.1.
  • BioMysteryBench: 85,0 против 84,4 у GPT-6.1 Sol.
  • DeepSWE v1.1: 75,7 против 75,5 у Kimi K3.1.

Claude Opus 5.5 лидирует в 7 из 16 графиков. Заметнее всего Qwen4-Max отстаёт в программировании и зрении:

  • ProgramBench: 31,5 против 65,0 у Opus 5.5.
  • Terminal-Bench 4.0: 48,5 против 67,2 у Kimi K3.1.
  • Chartography: 54,2 против 71,1 у GPT-6 Astra.
  • Humanity's Last Exam: 51,7 против 59,8 у Opus 5.5.

На собственном бенчмарке Alibaba Work360 модель набирает 52,69 против 47,74 у Qwen3.8-Max. Work360 охватывает 26 предметных областей верхнего уровня и 721 специализированное направление.

Почему стало дешевле: меньше токенов и ниже цены

Экономия складывается из двух вещей. На Work360 расход токенов падает примерно на 24% при усилии Xhigh и на 35% при High. На Terminal-Bench 4.0 — примерно на 48% и 49% соответственно. Средняя стоимость задачи на Work360 снижается с $4,43 до $1,67, то есть на 62%.

Снизились и прайс-листы. Вход стоит $1,50 за 1M токенов вместо $2 у Qwen3.8-Max. Выход — $4,50 вместо $6. Чтение из неявного кеша подешевело на 70%: с $0,25 до $0,075.

Qwen4-Max против конкурентов

Метрика Qwen4-Max Qwen3.8-Max Claude Opus 5.5 GPT-6.1 Sol Kimi K3.1 Pro
Всего параметров 2,4T + 328B N-gram 2,4T не раскрыто не раскрыто 2,8T
Активных параметров 71B не раскрыто не раскрыто не раскрыто 104B
Контекст 1M 1M 1M 1 050 000 1 048 576
Максимальный выход 393K 131K 128K 128K не раскрыто
Входные модальности текст, изображение, видео не раскрыто текст, изображение текст, изображение текст, изображение
Веса проприетарные, только API не раскрыто проприетарные проприетарные открытые (Kimi K3.1 Pro License)
Цена вход/выход за 1M $1,50 / $4,50 $2 / $6 $4 / $20 $2 / $10 $2 / $10
Кешированный вход за 1M $0,075 $0,25 $0,20 $0,10 $0,20
DeepSWE v1.1* 75,7 69,3 74,2 75,2 75,5
Terminal-Bench 4.0* 48,5 38,9 59,6 56,1 67,2
Humanity's Last Exam* 51,7 43,9 59,8 54,0 51,1
ProgramBench* 31,5 28,0 65,0 52,5 25,0
HLAB-Vals-1.1* 21,3 15,4 9,2 6,3 11,7

*Оценки из таблицы Alibaba по Qwen4-Max; колонка Qwen3.8 — это Qwen3.8-Max-0902. В таблице Kimi подписан как «Kimi K3.1». Собственная карточка Moonshot указывает для Kimi K3.1 Pro результат Terminal-Bench 4.0 в 65,7, а для Opus 5.5 — 66,4.

Как разработчику подключиться

Идентификатор модели — qwen4-max в QwenCloud. API совместим с клиентами OpenAI и Anthropic. Поддерживаются вызов функций, структурированные выходы, кеширование контекста, пакетная обработка, веб-поиск и дообучение. Лимит по умолчанию — 5 000 000 токенов в минуту. Режим размышления переключается параметром enable_thinking. Подписочный доступ идёт через Token Plan.

Важное ограничение: открытых весов нет. Модель доступна только как хостинговый сервис — через QwenCloud API, Token Plan, Qwen Studio, QwenWork и Qoder. Значит, ни самохостинга, ни квантованных сборок не будет. Предварительный доступ по Token Plan был открыт только в этом месяце.

Для тех, кто выбирает модель по цене за миллион токенов, ориентир остаётся прежним: у Alibaba вход дешевле, чем у Opus 5.5 и GPT-6.1 Sol. Если же задача — генерация и правка кода или разбор диаграмм, цифры ProgramBench и Chartography говорят сами за себя. Похожие релизы MoE-моделей с открытыми весами разбирались в материале про Inkling 2 Small от Thinking Machines и про MiniMax M3.1 Flash.

Частые вопросы

Можно ли запустить Qwen4-Max локально?

Нет. Веса проприетарные, модель доступна только через API QwenCloud и связанные сервисы Alibaba. Квантованных сборок для самохостинга не предусмотрено.

Сколько стоит работа с моделью?

$1,50 за 1M входных токенов и $4,50 за 1M выходных. Чтение из неявного кеша — $0,075 за 1M. Для сравнения, у Qwen3.8-Max было $2 и $6.

Насколько модель стала дешевле в реальных задачах?

Alibaba приводит среднюю стоимость задачи на Work360: $1,67 против $4,43, падение на 62%. Достигается оно за счёт снижения расхода токенов и новых цен.

Какие модальности поддерживаются?

Текст, изображения и видео на входе. Максимальная длина выхода — 393K токенов при контексте в 1M.

В чём модель уступает конкурентам?

Сильнее всего — в программировании и зрении. ProgramBench: 31,5 против 65,0 у Opus 5.5. Terminal-Bench 4.0: 48,5 против 67,2 у Kimi K3.1. Chartography: 54,2 против 71,1 у GPT-6 Astra.

Можно ли использовать привычные клиенты OpenAI?

Да, API совместим с клиентами OpenAI и Anthropic. Идентификатор модели — qwen4-max, режим размышления включается параметром enable_thinking.

Какой лимит запросов по умолчанию?

5 000 000 токенов в минуту. Доступ по подписке оформляется через Token Plan.

Насколько можно доверять приведённым цифрам?

Часть оценок взята из сторонних лидербордов, и ни одна не была независимо воспроизведена на момент релиза. Собственная карточка Moonshot даёт для Kimi K3.1 Pro другие значения Terminal-Bench 4.0 — 65,7 и 66,4 для Opus 5.5, — так что расхождения между таблицами стоит учитывать.

Для каких задач модель позиционируют?

Для долгосрочной профессиональной работы: длинный контекст, агентные сценарии, юридические задачи. Об этом говорит и лидерство в HLAB-Vals-1.1 с результатом 21,3.

Источник: marktechpost.com