根据Gartner周一发布的报告,全球终端用户在AI模型和平台上的支出将比去年激增63%,达到640亿美元。
报告指出,随着成本不断攀升,CIO们正对AI预算展开更严格的审查,重点关注使用效率、成本控制和可量化成果。企业客户将倾向于选择那些能在成本、延迟、性能和可靠性等方面证明自身价值的供应商。
Gartner高级首席研究分析师Arunasree Cheparthi在接受CIO Dive采访时表示,由于智能体AI的兴起,大部分模型支出正被嵌入到各类平台中。"模型供应商正在转型为平台的智能服务提供商。现在的竞争焦点在于谁能端到端地掌控整个企业工作流。"
随着AI应用走向成熟,企业在决定哪些试点项目值得持续投入后,能够帮助企业管理AI使用方式和范围的供应商将获得更大成功。
Cheparthi表示,AI支出将持续逐年增长,但CIO及其他技术决策者手中也握有一些控制支出的策略。她指出,CIO可以通过审查供应商合同、企业AI架构和治理机制来掌握成本动向。
在合同层面,企业技术负责人可以争取锁定Token定价(将输入与输出比率挂钩),或在AI工作流中设置硬性消耗上限。具体而言,管理层可以设定消耗限额,一旦达到上限即触发自动限流,或要求审批才能解除限制。
"企业应尽可能转向基于结果或基于价值的定价模式,"Cheparthi说,"传统的消耗型计费模式会带来不可预测性,且往往与实际业务价值脱节。"
Cheparthi还指出,合同谈判中也可约定在特定周期内未使用的Token可以结转,这一策略有助于减少浪费。
随着CIO角色持续演进,他们已成为企业AI战略与应用的统筹者和架构师。Gartner报告指出,AI架构,即企业执行AI战略的方式,在降低成本方面能发挥重要作用。
企业可实施多供应商路由策略,针对不同任务部署最具成本效益的模型——将低成本或开源大语言模型用于常规请求,将高级订阅模型留给更复杂的工作。
Cheparthi表示,那些追踪每Token成本、并针对冗余提示词或过度消耗设定削减目标的企业,将获得更高的投资回报。
她补充道,Token使用可见性应成为跨工作流追踪的标准运营指标。
"企业应通过分段预算执行严格的消耗限制,为每个部门或应用设立硬性财务边界,"Cheparthi说,"一旦达到限额,应自动触发访问限流或升级审批流程,从一开始就确保严格规范的使用习惯。"
企业的治理策略是一个常被忽视的节省成本的机会。许多供应商将AI溢价捆绑在套餐中,导致续约成本虚高。企业应将具备AI专业知识的合同审查团队纳入治理流程。
"这样做能防止资金流失,推动严格的结果量化评估,同时将部门绩效目标与能够产生可量化价值的AI举措对齐,"Cheparthi说。
Q&A
Q1:Gartner预测2024年全球AI终端用户支出会达到多少?
A:根据Gartner发布的报告,全球终端用户在AI模型和平台上的支出将比上一年激增63%,达到640亿美元。这一增长主要由智能体AI的兴起以及企业对AI平台的大规模采用所驱动。
Q2:企业如何通过合同谈判控制AI使用成本?
A:企业可以通过多种合同层面的策略来控制AI成本:锁定Token定价并将输入与输出比率挂钩;在AI工作流中设置硬性消耗上限,触发自动限流或要求审批;约定未使用Token可在特定周期内结转,避免浪费;同时尽量争取基于结果或价值的定价模式,避免传统消耗型计费带来的不可预测性。
Q3:什么是多供应商路由策略?企业该怎么用?
A:多供应商路由策略是指企业针对不同任务部署最具成本效益的AI模型。具体做法是将低成本或开源大语言模型用于处理日常例行请求,而将功能更强大的高级订阅模型保留给复杂任务。这种方式可以在保证业务质量的同时,有效降低整体AI使用成本,提升投资回报率。
