当AI费用不断攀升,企业该如何应对?
越来越多的企业正在被不断膨胀的AI账单打个措手不及。Token最大化等激进的AI使用趋势,让许多团队猛然意识到:资源消耗的代价终究要来兑现。面对持续上涨的AI费用,企业不得不重新审视自己的技术采用策略,以及这一切是否真的值得。有报道指出,一些企业在急于推进AI转型后,不得不重新招回此前被裁员的员工。那么,当AI带来的回报和成果被成本压力所掩盖时,CTO们究竟该怎么办?
在本期《InformationWeek》播客节目中,Larridin公司CTO Ameya Kanitkar与博思艾伦汉密顿公司CTO Bill Vass,深入探讨了他们在AI成本不断上升的背景下,如何制定和调整AI战略。
两位嘉宾分享了他们的见解,谈及与三年前相比,AI战略的转型究竟发生了多大的变化。他们是在AI规划上迈出小步,还是实现了大跨越?他们还讨论了AI成本的演变方式,以及哪类AI使用场景需要格外关注和审慎评估。
在AI推广初期,企业往往有各种激励手段来鼓励技术落地应用,但这些激励措施从长远来看是否真的奏效?
节目中还带来了"问题创意"圆桌推演环节,两位嘉宾帮助一家虚拟公司厘清如何为AI项目制定预算、这些支出如何影响其他部门,以及过度依赖孤立的AI知识所带来的潜在风险。
Q&A
Q1:什么是Token最大化(tokenmaxxing)?为什么它会导致AI成本上升?
A:Token最大化是指企业或团队在使用大语言模型时,尽可能多地消耗Token资源的一种激进使用方式。由于大多数AI服务按Token用量计费,这种趋势会直接导致账单急剧攀升。许多团队在初期并未充分意识到资源消耗的累积效应,等到账单来临才发现成本已远超预期,进而引发对AI投入产出比的重新审视。
Q2:企业在AI成本超支后,通常会面临哪些实际问题?
A:企业在AI费用大幅上涨后,通常面临多重压力:一是需要重新评估AI项目的实际价值与回报;二是部分企业因激进裁员后发现业务无法正常运转,不得不重新招回被裁员工,造成额外成本;三是AI知识过度集中于少数人或特定部门,形成"知识孤岛",一旦人员变动,相关能力难以延续,给企业带来较高的隐性风险。
Q3:CTO们目前采取哪些措施来控制AI使用成本?
A:根据Ameya Kanitkar和Bill Vass的分享,CTO们主要从以下几个方向入手:一是更精细地监控AI使用场景,对高消耗、低价值的使用方式加以限制;二是在AI战略规划上更加审慎,从早期的大步跃进转向稳步推进;三是重新评估早期AI推广阶段的激励措施是否真正带来了长期价值,并据此调整预算分配和跨部门协作机制。
