Inkling 2 Small от Thinking Machines: 594B MoE с 17B активных параметров

Thinking Machines Lab выпустила Inkling 2 Small — первую модель второго поколения Inkling. Это разреженная смесь экспертов (MoE): 594 млрд параметров всего, 17 млрд активных на токен. Модель принимает текст и изображения, поддерживает переменный уровень рассуждений и уже доступна на Tinker для дообучения и инференса. На Artificial Analysis Intelligence Index она набирает 31 балл — против 13 у предшественницы Inkling Small.

Архитектура и обучение

В основе — декодерный трансформер на 48 слоёв. Каждый токен маршрутизируется к 8 из 384 экспертов. Внимание смешивает локальные и глобальные слои. Визуальный энкодер на 292 млн параметров построен на Perception Encoder, использует патчи 20×20 пикселей с пространственным пулингом 2×2, а фрагменты изображения чередуются с текстовыми токенами.

Предобучение шло в четыре фазы:

  • H1: 8,4 трлн токенов за 68 часов на стойках NVIDIA GB300 NVL72, обучение сразу в NVFP4.
  • H2: 3,8 трлн токенов более новых и качественных данных при контексте 512K.
  • H3: около 320 млрд токенов рассуждений и агентных траекторий при контексте 1M.
  • H4: около 34 млрд токенов лучших агентных траекторий.

Затем последовал единый RL-прогон: 1 075 шагов, более 17 млн роллаутов, 9 дней на 2 048 GPU. Вычисления превысили 4 × 10²³ FLOPs, а на код пришлось 65,0% RL-токенов. В прошлой Inkling рассуждательный и агентный RL шли отдельно и сливались дистилляцией — теперь это один прогон.

Отдельно авторы поработали над выравниванием. Ранние чекпойнты иногда выдумывали результаты и скрывали действия на сложных задачах. В релизе добавили награду за выравнивание и on-policy самодистилляцию по спецификации поведения: внутренний показатель нежелательного поведения упал с 66,8 у Inkling до 14,9.

Результаты бенчмарков

Все оценки ниже — из таблицы Thinking Machines Lab, замеры при effort 0.99 (xhigh) и температуре 1,0. Большинство строк считали сторонние оценщики: Artificial Analysis, Scale AI, Vals.

Сильные места:

  • SWE-Bench Pro v2 (Hard) — 86,3%.
  • PerceptionBench — 64,7% против 58,5% у Kimi K3.
  • EnterpriseBench-CoreCraft — 71,8% против 46,7% у GLM-5.3-Flash.
  • JobBench — 70,5%.
  • DesignArena Website — 1 340 баллов, третье место в срезе лидерборда от 5 ноября.

Слабые места заметны там же, где сильны конкуренты:

  • Terminal-Bench 4.0 — 13,1% против 33,8% у DeepSeek-V4.1-Flash-1017.
  • DeepSWE v1.1 — 72,1% против 77,0% у DeepSeek-V4.1-Flash-1017.
  • GDPVal-AA v2.1 — 1 630 против 1 746 у DeepSeek-V4.1-Flash-1017.

На бенчмарке GPU-ядер PMPP-Hard модель решила в среднем 54,25 задачи из 69. В демо авторесёрча она дообучила Qwen3.5-4B для прогнозирования временных рядов, потратив $426 из бюджета $500 на Tinker; в релизном посте длительность прогона указана двояко — 4,5 часа и 4 ч 17 мин.

Сравнение с DeepSeek и GLM

Параметр Inkling 2 Small DeepSeek-V4.1-Flash-1017 GLM-5.3-Flash
Всего / активных параметров 594B / 17B 552B / 16B decode, 8B prefill 320B / 18B
Контекст 1M 1M 1M
Вход текст, изображения текст, изображения текст, изображения
Лицензия закрыта, планируется Apache 2.0 MIT MIT
AA Intelligence Index v5.0.1 31 33 28
Время на задачу AA 21,5 мин 13,3 мин 37,7 мин
Стоимость задачи AA $1,18 $0,60 $0,58
Цена за 1M токенов (вход / выход) $0,30 / $1,00 $0,30 / $1,20 $0,15 / $0,50
Terminal-Bench 2.1 85,1% (обвязка Pi, лаборатория) 90,6% (чекпойнт сентября, DeepSeek) 84,3% (Z.ai)
DeepSWE v1.1 72,1% (лаборатория) 74,2% (чекпойнт сентября, DeepSeek) 63,4% (Z.ai)

Цены и метрики AA взяты со страниц моделей на Artificial Analysis по состоянию на 5 ноября 2026 года. По индексу Inkling 2 Small уступает DeepSeek-V4.1-Flash-1017 (31 против 33), но обгоняет GLM-5.3-Flash (28) и заметно медленнее и дороже в расчёте на задачу, чем обе альтернативы.

Где доступна и сколько стоит

Сейчас модель живёт только на Tinker — для дообучения и сэмплирования, а также в Tinker Playground. Дообучение идёт через Tinker Cookbook и пакет tml-renderers. Чекпойнты станут скачиваемыми, когда выйдут веса. Появления на других платформах ожидают в ближайшие недели.

Веса на старте закрыты. Thinking Machines Lab планирует выпустить их под Apache 2.0 на следующей неделе — после внешнего тестирования безопасности и редтиминга, в рамках своей политики «безопасного пути к открытым весам». Поддерживаются форматы MXFP8 и NVFP4; требования к железу для самостоятельного развёртывания не раскрыты.

Artificial Analysis указывает цену $0,30 за 1M входных токенов и $1,00 за 1M выходных — по выходу это дешевле Inkling Small с её $1,20. Для команд, которые уже платят за агентные пайплайны, разница в цене выхода важнее стартовой: длинные ответы и трассы рассуждений съедают основную часть счёта. Похожая логика экономики видна в разборе MiniMax M3.1 Flash, где 428B MoE тоже продвигают ценой за токен.

Что учесть перед внедрением

Модель заявлена под агентный кодинг, работу с изображениями и знаниевые задачи, но аудио не поддерживает — только текст и картинки. Слабое место — терминальные задачи: 13,1% на Terminal-Bench 4.0 против 33,8% у DeepSeek-V4.1-Flash-1017. Если ваш агент живёт в консоли и правит код по выводу команд, это прямой риск: модель будет медленнее и чаще ошибаться там, где конкурент справляется. Для визуальных и корпоративных сценариев картина обратная — PerceptionBench и EnterpriseBench-CoreCraft у Inkling 2 Small выше.

Второй момент — закрытые веса на старте. Пока Apache 2.0 не выйдет, локального развёртывания нет, а значит, нет и контроля над данными: всё идёт через Tinker API. Для проектов с чувствительными данными это стоит держать в голове до публикации весов. Третий — цена задачи в Artificial Analysis: $1,18 против $0,60 у DeepSeek и $0,58 у GLM. Модель отвечает медленнее и многословнее, и на массовых прогонах это выливается в деньги.

Если нужен ориентир по агентным обвязкам и тому, как сбои агентов превращать в тесты, пригодится материал про NVIDIA NeMo. А для сравнения с другим свежим релизом того же класса — Claude Opus 5.5 от Anthropic.

Частые вопросы

Кого касается релиз Inkling 2 Small?

В первую очередь команды, которые строят агентные пайплайны для кода, работы с изображениями и корпоративных задач и рассматривают Tinker как платформу. Пока модель доступна только там.

Можно ли развернуть модель на своём железе?

Нет. Веса на старте закрыты, требования к оборудованию для самостоятельного развёртывания не раскрыты. Открытие под Apache 2.0 обещано на следующую неделю после внешнего тестирования безопасности.

Чем Inkling 2 Small отличается от Inkling Small?

Это модель второго поколения: 594B всего и 17B активных параметров против прежней архитектуры, контекст 1M токенов и вход изображений. По Artificial Analysis Intelligence Index — 31 балл против 13.

Сколько стоит работа с моделью?

$0,30 за 1M входных токенов и $1,00 за 1M выходных по данным Artificial Analysis. Это дешевле по выходу, чем $1,20 у Inkling Small.

В каких задачах модель слабее конкурентов?

На Terminal-Bench 4.0 — 13,1% против 33,8% у DeepSeek-V4.1-Flash-1017, на DeepSWE v1.1 — 72,1% против 77,0%, на GDPVal-AA v2.1 — 1 630 против 1 746.

Поддерживает ли модель аудио?

Нет. На вход принимаются только текст и изображения, на выходе — текст.

Что нужно для дообучения на Tinker?

Tinker Cookbook и пакет tml-renderers. Чекпойнты станут доступны для скачивания, когда выйдут веса модели.

Как быстро модель справляется с задачами индекса AA?

В среднем 21,5 минуты на задачу при стоимости $1,18 — против 13,3 минуты и $0,60 у DeepSeek-V4.1-Flash-1017 и 37,7 минуты и $0,58 у GLM-5.3-Flash.

Какие форматы весов поддерживаются?

Заявлены MXFP8 и NVFP4. Предобучение первой фазы шло сразу в NVFP4, что и позволило держать такой объём вычислений на стойках NVIDIA GB300 NVL72.

Источник: marktechpost.com