CIO们正艰难应对预测Token消耗量,以及将支出与业务成果清晰关联的挑战。IT服务公司埃森哲的一份报告发现,随着AI成本上升,这已成为高管们的首要关切。该报告基于2026年7月对750名企业高管的调查,以及对15位财富500强企业技术和财务负责人的访谈。
报告发现,企业在2025年的Token支出约为25亿美元,预计未来24个月内Token消耗量将增长78%。Token消耗是继基础设施、软件开发与维护之后,AI成本的第三大驱动因素。
尽管AI正在带来生产力提升,并改善客户体验,但要清晰划分投资回报与Token支出之间的界限却相当棘手。报告指出:“企业Token支出中,只有五分之一能体现为可量化的财务成果,其余五分之四则处于一种企业认为有效但无法证明的模糊地带。”
尽管对成本上升及AI支出与业务成果关联难题存在担忧,企业仍在推进AI应用进程。
根据安永7月发布的一份报告,超过五分之四的企业表示对AI Token使用及AI实施成本存在担忧,但仍有37%的企业计划扩大AI部署范围。
此外,尽管Token价格正逐渐变得更具成本效益,但价格下降并不总能转化为支出减少。埃森哲报告显示,当被问及若Token价格下降25%或以上时会采取何种行动,42%的受访高管表示他们会扩大现有AI工作负载。
今年早些时候,Linux基金会成立了Tokenomics基金会,以应对Token消耗导致AI成本上升的问题。报告指出,随着管理AI支出成为关键关注领域,CIO可以采取一些措施,帮助将Token消耗与业务成果关联起来。
CIO需要通过为每次AI交互部署AI网关或可观测层,提升工作负载层面的Token消耗可见性,包括所使用的模型、Token成本以及输出结果。报告称,这一策略可将53%的Token使用量追溯到具体团队或个人用户。
在提升可见性之后,让工程等团队为其Token成本负责,将促使管理者在每次使用时都需为支出作出合理说明,在权衡成本的同时选择合适的AI模型来完成任务,报告称。CIO还应向个人或团队公开模型成本信息,因为大多数开发者和员工往往会选择能力最强的模型,原因是他们无法看到不同模型之间的成本差异,报告指出。
将工作负载分配给成本更低的模型是控制Token成本的关键,因为报告显示,只有约10%的工作负载真正需要成本更高的前沿级高级推理能力。
针对企业的担忧,供应商已开始添加成本控制功能,将查询自动路由至合适的AI模型。Snowflake在其Cortex AI网关及其他AI产品中推出了模型路由功能,可根据质量和成本自动选择最适合任务的AI模型。同时,谷歌也开始提供灵活的计费选项,允许企业设定每月AI支出上限。
最后,埃森哲报告建议,在投入新的AI工作负载之前,CIO应先明确当前流程在时间或资金上的成本,AI将改善哪项财务成果,以及“该成果将如何以美元形式衡量”。
Q&A
Q1:企业2025年在Token上花了多少钱?
A:根据埃森哲报告,企业在2025年的Token支出约为25亿美元,预计未来24个月内Token消耗量将增长78%。
Q2:为什么企业难以证明AI支出的回报?
A:报告指出,企业Token支出中只有五分之一能体现为可量化的财务成果,其余五分之四处于企业认为有效但无法证明的模糊地带,这使得投资回报难以清晰衡量。
Q3:CIO可以采取哪些措施来控制Token成本?
A:CIO可以部署AI网关提升工作负载可见性,让团队为Token成本负责,公开模型成本信息,并将大部分工作负载分配给成本更低的模型,因为只有约10%的工作负载真正需要昂贵的高级推理能力。
