AI资讯 人工智能领域

据Harness周三发布的调查报告显示,企业在AI方面每花费4美元,就有约1美元被白白浪费,各大企业正加速推进支出管控工作。该报告共对700名FinOps及工程负责人进行了调查。

超过半数受访者表示,其所在组织缺乏专门负责AI成本管理的人员,相关责任分散在工程、平台和FinOps等多个团队之间。

尽管AI支出快速攀升,但相应的治理与监管机制尚未跟上。调查显示,仅有五分之一的企业能在数小时内定位到AI成本意外飙升的根源。

随着AI在企业内部的普及应用,技术领导者们正在努力遏制失控的AI支出。如何在鼓励创新的同时,避免因监管不清、工具泛滥而导致预算超标,是一道颇具难度的平衡题。

Harness的报告还指出,除支出持续上涨外,企业还面临另一大困扰:AI成本结构与传统IT支出存在本质差异。

传统云基础设施的成本主要集中在服务器和存储上,而AI支出则横跨多个类别,包括基础设施、基础模型、SaaS订阅及托管服务等,多项费用同步产生。

此外,大多数企业同时使用三家或三家以上的主要AI服务商,而各家定价体系各不相同,这使得全面掌握实际支出情况变得十分困难。

生产力软件——如AI助手和编程辅助工具——也已成为最主要的成本驱动因素之一。由于这类工具从外观上看更像普通软件许可证,而非基础设施支出,因此难以被有效追踪。

各大厂商已开始积极回应日益迫切的监管需求。甲骨文(Oracle)和亚马逊云服务(AWS)等主流云服务商相继推出新功能和新计费结构,以提升AI成本的可见性;Linux基金会也专门成立了一个聚焦成本管理的新工作组。

然而,缺乏可见性仍是许多企业面临的主要障碍。

Harness云与AI成本管理副总裁Harish Doddala在报告中表示:"最令我意外的,不是支出规模本身,也不是增长速度,而是不同规模、不同地区的企业所呈现出的高度一致的短板——可见性缺失、权属不清、预测失准,无论月支出是30万美元还是300万美元,这些问题都普遍存在。"

报告还显示,超过半数受访者表示,企业主要依靠"拍脑袋"而非数据来预测AI支出;超过40%的企业仍在用电子表格管理成本。随着AI预算规模增大到足以引起CFO关注的程度,滞后的成本可见性会让企业陷入被动应对的局面,而非主动掌控。

Doddala指出,仅靠时间推移并不足以弥补可见性方面的差距,还需要有针对性地加大投入,才能更好地把握支出走向。

Harness的报告认为,对于成本管控能力较强的企业而言,尽早明确责任归属、集中管理成本可见性,以及将支出数据整合进工程工作流程,是其普遍采用的核心策略。

OpenAI本月早些时候也提出了类似建议,呼吁企业加强对AI使用情况和支出的透明度管理,追踪模型产出效果,并将治理机制融入日常运营之中。

Q&A

Q1:Harness报告中AI资金浪费的主要原因是什么?

A:根据Harness的报告,AI资金浪费的主要原因包括:缺乏专门负责AI成本管理的人员,责任分散在多个团队;AI成本结构复杂,横跨基础设施、基础模型、SaaS订阅等多个类别;大多数企业同时使用三家以上AI服务商,各家定价不同,难以统一追踪;生产力软件类工具形似普通软件许可证,容易被忽视。此外,超过一半企业依靠"拍脑袋"而非数据预测支出,治理机制严重滞后。

Q2:企业如何才能更好地控制AI支出?

A:Harness报告建议,成本管控能力较强的企业通常采取以下策略:尽早明确AI成本的责任归属;集中管理成本可见性;将支出数据整合到工程工作流程中。OpenAI也提出了类似建议,包括加强对AI使用情况和支出的透明度管理、追踪模型产出效果,以及将治理机制融入日常运营。有针对性的投入是弥补可见性差距的关键。

Q3:甲骨文和AWS在AI成本管理方面做了哪些改进?

A:甲骨文(Oracle)和亚马逊云服务(AWS)已相继推出新功能和新的计费结构,旨在提升AI成本的可见性,帮助企业更清晰地了解AI支出的来源和构成。与此同时,Linux基金会也专门成立了一个聚焦AI成本管理的新工作组,共同应对企业在AI支出管控方面面临的挑战。

CIO DIVE