Gartner预测,到2027年,超过40%的智能体AI项目将被叫停,原因包括商业价值不清晰、成本持续攀升以及风险管控不足。然而,许多企业依然倾向于选购最贵、最强大的模型,认为这是最稳妥的决策。一项来自麻省理工学院的研究表明,这种思路可能恰恰是个陷阱。

研究背景与实验设计

这项研究由麻省理工学院交通与物流中心主导,研究团队与一家每年处理超过750亿美元供应商发票的全球企业合作,构建了一套可自主调查和解决发票错误的AI智能体系统,无法处理时才上报人工审核。研究人员对四种模型配置进行了测试,统一使用44张测试发票,衡量准确率、计算消耗和处理时长。

结果颠覆预期

测试结果出乎意料。最高配置——顶级推理模型搭配高端文档读取模型——排名垫底,发票自动处理率仅为91%。而一款精心匹配的中端配置,以远低于高配方案的成本,实现了44张发票的100%处理。低价配置的自动处理率也达到95%。

所有失败案例都集中在同一个任务:识别重复发票。该任务要求AI同时评估五条相互竞争的规则,以判断两张发票是否重复。最强大的模型在此反而过度谨慎——对边界案例反复权衡,而更简单的模型则直接判定。

高配置失败的三大原因

研究发现了三个核心问题:

一是模型过度推理。大型模型倾向于生成更长、限定条件更多的推理过程。在开放性问题上,这是优势;在规则明确的判断任务中,这反而会将本可清晰解决的决策复杂化。

二是组件不匹配。研究人员尝试保留高端推理智能体,但换用更便宜的文档读取模型以节省成本。结果适得其反——由于提取文本质量较差,推理智能体不得不先花费大量计算资源清理数据,每张发票的计算消耗反而增加了约68%。正如业界所说:输入是垃圾,智能体输出也是垃圾。自主系统会继承上游所有环节的质量缺陷。

三是结构复杂度过高。研究还对比了两种设计:简单流水线(智能体按固定顺序运行)与复杂监督架构(主管智能体检查每个输出,必要时退回重试)。结果显示,复杂设计速度更慢、计算消耗更高,准确率却与简单设计完全相同——没有任何一个案例是因为复杂架构才得以解决的。复杂度应由实际问题驱动,而非为了显得"严谨"而添加。

现实差距与行业印证

在参与研究的企业中,某区域部门已实现97%的发票无人工干预处理,另一部门却只有67%。缩小这30个百分点的差距,意味着每年有数十万张发票可进入全自动处理流程。障碍并非技术高深,而是供应商多账户跨币种、税务处理不一致、现有系统无法识别贷记凭证等具体场景——正是这类情境判断,是基于规则的传统自动化始终无法解决的。

麻省理工学院NANDA项目的研究也印证了类似结论:对300个公开部署案例的分析显示,仅约1/20的试点项目实现了快速营收增长。研究者认为,关键问题不在于模型能力不足,而在于与业务流程的适配度太低。

正确的部署思路

研究人员提出两条实践建议:

针对具体任务进行基准测试,而非依赖公开排行榜。排行榜上领先的模型,在实际工作中未必适用,唯有实测才能知晓。

测试整个链路,而非单个组件。智能体是多个组件的串联,单独优化某一环节,对整个系统的成本和可靠性几乎没有参考价值。

此外,受访的财务管理者明确表示,他们并不希望构建一个完全自主的组织,而是希望AI辅助人类工作。该研究团队构建的系统从设计之初就内置了治理机制:记录每一步推理过程以备审计,无法解决问题时自动起草摘要和建议操作,提交人工审阅,而非擅自行动。事后补救治理的代价,远高于从一开始就将其纳入设计。

结论

能力陷阱并不是反对部署智能体AI的理由,而是反对以"能力"代替"证据"的理由。那些能够规避Gartner所预测的40%失败率的企业,不会是行动最快或购买了最强模型的企业,而是那些认真衡量、整体测试、并在真正需要判断的节点保留人类介入的企业。不经测试就部署智能体,不是技术决策,而是附带预算的一场赌博。

Q&A

Q1:为什么最强大的AI模型在发票处理测试中反而表现最差?

A:因为大型模型倾向于过度推理。在识别重复发票时,需要同时评估多条相互竞争的规则,最强模型对边界案例反复权衡、犹豫不决,反而导致判断失误。而更简单、更专注的模型直接按规则判定,准确率更高。这说明模型与任务的适配度,比模型的绝对能力更重要。

Q2:用高端推理模型搭配便宜的文档读取模型,为什么反而更贵?

A:因为便宜的文档读取模型提取的文本质量较差,高端推理模型不得不先花费大量计算资源去清理和整理这些杂乱数据,然后才能开始真正的任务处理。最终每张发票的计算消耗增加了约68%,节省下来的文档读取成本被推理阶段的额外开销完全抵消,整体成本反而更高。

Q3:企业在部署AI智能体时,应该怎么选模型?

A:不要只看公开排行榜或供应商宣传,要针对自己的具体任务进行实际测试。同时,要测试整个系统链路,而不只是单个组件——某个组件单独表现好,不代表整合后系统也表现好。选择适配度高的中端模型,往往比盲目选最贵的高端模型效果更好,成本也更低。

World Economic Forum