IBM与Together AI签署了一项价值2.4亿美元的合作协议,将基于IBM Cloud构建一项大规模开源AI推理云服务。
该服务依托一批搭载Nvidia HGX B300系统的大型集群,并采用Spectrum-X以太网络。Together AI将利用这一集群,为企业客户提供开源模型推理服务。
Together AI平台支持DeepSeek、Nemotron、MiniMax、Kimi、GLM等开源模型,使开发者和客户能够以低于单一专有模型的成本,对模型进行定制和微调,以满足自身应用需求。
IBM表示,IBM Cloud上由Nvidia GPU驱动、Nvidia Spectrum-X以太网络连接、并整合Together AI推理平台的混合环境,为企业构建、部署和扩展AI系统提供了可靠基础。此次合作所涉及的技术对IBM同样具有重要战略意义,因为它依赖于IBM正与Nvidia共同开发的基础设施。据IBM介绍,双方近期进一步深化合作,推动GPU原生数据分析、智能文档处理、本地部署及合规基础设施等场景的落地,助力企业客户将AI从试点阶段推向规模化生产。
Together AI首席执行官Vipul Ved Prakash表示,与IBM的合作将助力Together AI持续拓展企业市场,让更多开发者和企业用上开源AI。"与IBM、Nvidia携手合作,为我们奠定了坚实基础。这一集群让我们能够更快地将生产级推理能力带给更多企业,也是我们推动开源AI成为企业首选的重要一步。"
此次合作是AI优化基础设施即服务(IaaS)市场持续升温的最新缩影。IBM Cloud正与AWS、谷歌云、微软Azure、Coreweave、Lambda等众多厂商,在这一快速扩张的市场中展开竞争。
Gartner本周预测,全球AI优化IaaS支出预计到2026年将增长96%,达到420亿美元;2027年将进一步增至660亿美元。
Gartner特别指出,推理工作负载占比的持续提升将重塑云计算投资格局:"智能体AI的兴起通过多步骤自主执行大幅提升了算力需求,使推理成为主导消费模式,AI优化IaaS也因此成为企业AI战略的关键支撑。"
Gartner高级首席研究分析师Hardeep Singh表示:"随着企业从模型开发转向生产规模部署,经过微调的领域专用模型正被越来越多地集成到面向客户和运营的系统中,需要持续的实时执行,而非周期性训练。这一转变正在加速云计算消费模式的演变,并为AI优化基础设施创造持续需求。"
Gartner预测,2026年全球推理支出(233亿美元)将超过训练支出(190亿美元)。2026年,推理将占AI优化IaaS支出的55%,2027年这一比例将进一步提升至59%。
Q&A
Q1:IBM与Together AI合作提供的云服务具体包含哪些内容?
A:该服务基于IBM Cloud上的Nvidia HGX B300大型集群,采用Spectrum-X以太网络,由Together AI提供开源模型推理能力,支持DeepSeek、Nemotron、MiniMax、Kimi、GLM等模型,企业客户可在此基础上进行定制和微调,以较低成本构建自有AI应用。
Q2:Gartner对AI优化IaaS市场的增长预测是多少?
A:Gartner预测,全球AI优化IaaS支出到2026年将增长96%,达到420亿美元,2027年进一步增至660亿美元。其中推理支出将在2026年超过训练支出,占AI优化IaaS总支出的55%,2027年升至59%。
Q3:智能体AI的发展对云基础设施需求有什么影响?
A:智能体AI通过多步骤自主执行大幅提升算力需求,使推理成为主导消费模式。随着企业将微调后的领域专用模型集成到生产系统中,对持续实时推理的需求不断增加,这将加速云计算消费模式演变,推动AI优化基础设施需求持续增长。
