据高德纳(Gartner)周一发布的报告显示,面向AI优化的基础设施即服务支出——即支撑大语言模型训练与运行的算力投入——预计在今年年底前将近乎翻倍,达到420亿美元。

智能体AI的兴起与推理模型的普及,进一步放大了对基础设施和算力的需求。报告预测,今年全球在推理方面的支出将达到233亿美元,首次超过190亿美元的模型训练支出。

高德纳高级首席分析师哈迪普·辛格(Hardeep Singh)在接受CIO Dive采访时表示,推理工作负载代表AI的运营层面,即已训练模型实时生成响应、推荐和决策的过程。"推理支出将在2026年超过训练支出,这一事实表明AI的应用正变得愈发主流,并向生产导向转型。"

随着企业不断成熟其AI部署规划,并更深度地依赖智能体系统,对AI基础设施的需求也随之增长。辛格表示,企业正在从构建和训练模型,逐步转向在整个组织内大规模部署和运营模型。高德纳预测,全球基础设施即服务支出将持续增长,到2027年达到660亿美元。

"过去几年,AI基础设施的需求主要由模型提供商训练大型基础模型所驱动,"辛格说,"如今,企业正将AI嵌入应用程序、业务流程和客户体验之中,这需要持续不断的推理能力,而非周期性的训练投入。"

弗雷斯特(Forrester)今年年初预测,受AI服务需求增长推动,全球技术支出将从2025年的5.2万亿美元增长至2026年的5.6万亿美元。

辛格建议,首席信息官及其他技术决策者应将AI基础设施视为推动业务AI落地的战略性投资,而非实验性预算项目。他补充道,企业当前对AI优化算力、存储、网络及编排能力的需求,已超出传统基础设施所能高效支撑的范畴。

超大规模云服务商和前沿模型开发商仍占据AI基础设施投资的较大份额。谷歌云、微软Azure和AWS三大超大规模云服务商计划今年在AI基础设施上投入逾5000亿美元的资本支出。

企业需求同样增长迅猛。高德纳5月数据显示,企业今年在生成式AI模型和AI智能体上的支出将超过去年的两倍。报告指出,涵盖AI优化IaaS、AI优化服务器、AI网络架构、AI处理芯片及终端设备在内的供应商驱动型AI基础设施,占总支出的比例已超过45%。

辛格表示,随着AI深度嵌入企业工作流,所需基础设施必须具备比以往更高的性能、更低的延迟和更强的可扩展性。专注于将AI从试点项目扩展至业务关键生产环境的首席信息官,需要重点应对算力容量、数据重力、治理合规、运营韧性、安全防护和成本管理等挑战。

综合上述多重考量,许多企业正在重新审视自身的云战略,倾向于采用融合公有云、私有云、主机托管、边缘计算与主权环境的混合方案,甚至同时部署上述所有形态。

辛格强调,AI基础设施对首席信息官而言,已不只是一项技术考量。

"它正日益成为一种核心业务能力,决定着企业能以多快的速度、多高的效率在全组织范围内规模化推进AI落地。"

Q&A

Q1:高德纳报告预测2025年AI基础设施支出会达到多少?

A:根据高德纳报告,面向AI优化的基础设施即服务支出预计在2025年底前将近乎翻倍,达到420亿美元。其中推理支出预计达到233亿美元,首次超过190亿美元的模型训练支出。到2027年,全球基础设施即服务支出预计将进一步增长至660亿美元。

Q2:为什么推理支出会超过训练支出?

A:推理支出超过训练支出,主要是因为企业AI部署进入成熟阶段。过去AI基础设施需求主要来自模型提供商训练大型基础模型,而现在企业正将AI嵌入应用程序、业务流程和客户体验中,需要持续进行实时推理,而非周期性的模型训练,这直接推动了推理端支出的快速增长。

Q3:企业在扩展AI基础设施时需要重点关注哪些问题?

A:高德纳分析师辛格指出,企业在将AI从试点扩展至生产环境时,需重点关注算力容量、数据重力、治理合规、运营韧性、安全防护和成本管理六大方面。同时,许多企业正转向融合公有云、私有云、主机托管、边缘计算与主权环境的混合云架构,以满足更高性能、更低延迟和更强可扩展性的需求。

CIO DIVE