IBM заключила сделку на $240 млн с провайдером neocloud Together AI. Компании запускают облачный сервис для выполнения крупных нагрузок инференса открытых ИИ-моделей. Сервис будет построен на большом кластере систем Nvidia HGX B300 с сетью Spectrum-X Ethernet, размещённом в IBM Cloud. Together AI будет использовать этот кластер для предоставления корпоративным клиентам сервисов инференса открытых моделей.
Что за сервис и какие модели поддерживает
Платформа Together AI поддерживает открытые модели, такие как DeepSeek, Nemotron, MiniMax, Kimi и GLM. По словам компании, это даёт разработчикам и заказчикам свободу настраивать и дообучать модели под свои задачи с меньшими затратами, чем использование одной проприетарной модели. Together AI предоставляет GPU-инфраструктуру и ИИ-сервисы разработчикам и предприятиям.
В IBM отметили, что гибридная среда на IBM Cloud с GPU Nvidia, соединёнными сетью Nvidia Spectrum-X Ethernet, и платформой инференса Together AI даёт организациям надёжную основу для создания, развёртывания и масштабирования ИИ-систем.
Технологии, лежащие в основе соглашения, важны для IBM: они опираются на инфраструктуру, которую компания развивает совместно с Nvidia. Недавно вендоры расширили сотрудничество, чтобы развивать GPU-нативную аналитику данных, интеллектуальную обработку документов и локальные развёртывания в регулируемых средах — это должно помочь корпоративным клиентам перевести ИИ из пилота в промышленную эксплуатацию.
Сделка в контексте рынка ИИ-инфраструктуры
Сделка — очередной шаг в быстрорастущем сегменте оптимизированной под ИИ инфраструктуры как услуги (IaaS). IBM Cloud конкурирует здесь с AWS, Google Cloud, Microsoft Azure, Coreweave, Lambda и другими.
По прогнозу Gartner, опубликованному на этой неделе, мировые расходы на ИИ-оптимизированный IaaS вырастут на 96% к 2026 году и достигнут $42 млрд. В 2027 году рынок продолжит расти и составит $66 млрд.
Аналитики отмечают, что растущая доля нагрузок инференса изменит приоритеты инвестиций в облака. «Подъём агентного ИИ усиливает вычислительную интенсивность за счёт многошагового автономного выполнения, делая инференс доминирующей моделью потребления и позиционируя ИИ-оптимизированный IaaS как критически важный фактор корпоративных ИИ-стратегий», — говорится в отчёте Gartner.
Хардип Сингх, старший главный аналитик Gartner, пояснил: «По мере перехода организаций от разработки моделей к развёртыванию в промышленных масштабах дообученные и доменно-специфичные модели всё чаще интегрируются в клиентские и операционные системы, требуя непрерывного выполнения в реальном времени, а не периодического обучения. Этот сдвиг ускоряет модели потребления облака и создаёт устойчивый спрос на ИИ-оптимизированную инфраструктуру».
Инференс обгоняет обучение по расходам
По данным Gartner, уже в 2026 году мировые расходы на инференс ($23,3 млрд) превысят расходы на обучение моделей ($19 млрд). Пятьдесят пять процентов расходов на ИИ-оптимизированный IaaS в 2026 году придётся на инференс, а к 2027 году эта доля вырастет до 59%.
Это подтверждает общий тренд: компании переходят от экспериментов с моделями к их реальному использованию в продуктах и бизнес-процессах, и именно инференс становится главным драйвером спроса на GPU-облака. Сделка IBM и Together AI — часть этого процесса: она даёт крупным заказчикам доступ к открытым моделям через управляемый облачный сервис, а не через самостоятельное развёртывание кластеров.
Рост рынка ИИ-инфраструктуры также связан с развитием сетевых технологий для GPU-кластеров: например, Nvidia недавно открыла cuFile и запустила Storage-Next — инициативу по стандартизации GPU-хранилищ, а Zayo строит выделенные «ИИ-коридоры» в США с использованием оборудования Nvidia для соединения дата-центров.
Частые вопросы
Что такое инференс ИИ-моделей?
Инференс — это этап, на котором обученная модель используется для получения ответов на новые запросы. Например, когда пользователь задаёт вопрос чат-боту, происходит именно инференс. В отличие от обучения, инференс требует постоянной вычислительной мощности в реальном времени.
Чем открытые модели лучше проприетарных?
Открытые модели, такие как DeepSeek или Nemotron, можно дообучать и настраивать под конкретные задачи компании. Это часто обходится дешевле, чем аренда проприетарной модели, и даёт больше контроля над поведением ИИ.
Кому выгодна эта сделка?
Предприятиям, которые хотят использовать ИИ в производстве, но не готовы строить и обслуживать собственные GPU-кластеры. Через IBM Cloud они получают доступ к открытым моделям как к управляемому сервису.
Чем Together AI отличается от других облачных ИИ-провайдеров?
Together AI специализируется именно на инференсе открытых моделей и предоставляет инструменты для их дообучения. Компания позиционирует себя как инфраструктуру для разработчиков, работающих с open-source ИИ.
Что такое Nvidia HGX B300?
Это аппаратная платформа Nvidia для ИИ-нагрузок, включающая GPU и системы для создания высокопроизводительных кластеров. HGX-системы используются для обучения и инференса больших моделей.
Зачем нужна сеть Spectrum-X Ethernet для ИИ?
Spectrum-X — это сетевое решение Nvidia для центров обработки данных, оптимизированное для ИИ-нагрузок. Оно обеспечивает высокую пропускную способность и низкую задержку, что критично для распределённого инференса больших моделей.
Как это повлияет на стоимость ИИ-сервисов?
Рост предложения GPU-мощностей для инференса и конкуренция между облаками могут постепенно снижать цены на ИИ-вычисления. Открытые модели в сочетании с управляемыми сервисами дают компаниям более предсказуемую альтернативу проприетарным API.
Источник: networkworld.com