HR软件公司Rippling本周推出了AI Spend Console,这是一款帮助企业追踪和控制AI支出的产品,旨在解决企业内部AI Token滥用问题。其中一项核心功能是追踪各员工、团队和岗位的AI消费情况,并评估其是否真正提升了生产力,还是仅仅产出了大量低质量的AI内容。

该工具的诞生源于Rippling年初全面押注AI后发现员工大量烧钱的亲身经历。首席产品官Matt MacInnis回忆,今年3月的高管会议上,CFO Adam Swiecicki公布了一个令所有人震惊的数字:公司在AI Token上的支出已相当于R&D部门全体员工薪酬总额的40%,且支出正以每月80%的速度增长。若趋势持续,下一年Token支出将达到R&D员工薪酬的90%。

经过深入分析,Rippling发现约10%至15%的员工贡献了约60%的AI总支出,其中一名工程师单月消费高达5万美元。

Rippling随即采取行动,与Cursor、OpenAI和Anthropic等工具供应商协商设定了最高消费上限,并发现员工普遍默认使用最新、最昂贵的前沿模型处理所有任务。

MacInnis指出,推理服务商如Anthropic和OpenAI没有任何动力帮助企业控制支出,也不提供详细的使用洞察,更不与其他供应商协作共享数据。

Rippling由此得出结论:企业需要同时使用来自多家AI厂商、不同价位的多个模型,包括开源前沿模型。Rippling创始人兼CEO Parker Conrad上月透露,公司内部基准测试发现,SpaceX旗下的Grok综合表现最佳,而Z.ai的GLM 5.2虽比前沿模型便宜85%,性能却几乎相当。GLM 5.2目前已成为众多科技公司在编程任务中的首选中国模型,Databricks也对其大力推介。

此外,企业还需要一个AI网关,将请求路由至最适合、最具性价比的模型。Rippling为此自建了AI网关,并将其整合进AI Spend Console产品中。

借助这套工具,Rippling将Token支出占比从40%降至约15%,但并未压缩AI使用量。CFO发出警告当月,公司内部Token使用量峰值达6050亿,而今年7月再次达到6000亿Token,但7月的Token支出成本仅为4月的37%。

Rippling还从内部挖掘出高效使用AI的员工,将其任命为"AI队长",协助其他同事提升AI使用效率。目前,工程师仍是AI的主要使用群体,但Rippling正在探索将AI应用于客户入职团队,自动化邮件数据处理和数据核对等任务,并通过客户入职数量来衡量生产力提升效果。

MacInnis表示,如果无法将G&A职能和客户服务职能中的Token消耗与生产力挂钩,就无法将AI工具推广至更广泛的员工群体。

AI Spend Console已包含在Rippling的HR订阅套餐中,但会产生额外的AI使用费用,也可作为独立产品购买,并与其他HR系统集成。

Q&A

Q1:Rippling AI Spend Console是什么?它能解决什么问题?

A:AI Spend Console是Rippling推出的一款AI支出管理工具,帮助企业追踪和控制AI Token消费。它能显示各员工、团队和岗位的AI支出情况,并评估支出是否真正带来了生产力提升,从而避免企业在AI上盲目烧钱。

Q2:Rippling是如何将AI Token支出大幅压缩的?

A:Rippling采取了多项措施:与Cursor、OpenAI、Anthropic等供应商协商设定消费上限;自建AI网关,将请求智能路由至性价比最高的模型;引入GLM 5.2等低成本高性能模型替代昂贵的前沿模型。最终Token支出占R&D人力成本的比例从40%降至约15%,而7月的Token使用量与4月相当,成本却只有4月的37%。

Q3:GLM 5.2为什么受到科技公司青睐?

A:GLM 5.2是Z.ai推出的中国AI模型,在编程任务上表现出色,性能与主流前沿模型几乎相当,但成本低约85%。Rippling内部测试证实了这一点,Databricks也对其大力推介,使其成为当前科技公司控制AI成本的热门选择。

TechCrunch - AI