开发者正越来越关注AI编码工具的运行成本。近期流行的"穴居人模式"通过去除AI回复中的冗余填充语,声称可节省65%的Token消耗。Elastic公司在内部测试中报告了63.6%的平均Token减少率。然而,JetBrains通过对86个真实编码任务的基准测试发现,实际节省仅约8.5%。原因在于代码、差异对比和工具调用占据了Token流的主体,该技巧仅压缩工具调用间的叙述文本。总体评价:安全可用,但节省效果被夸大。
JetBrains测试发现,所谓"穴居人"提示风格——要求AI编程助手使用简短电报式语言、去除对话填充词——确实能减少token使用量,但实际效果远低于宣传数据。测试基于86个真实软件工程任务,结果显示输出token减少约8.5%,远低于项目声称的65%。此外,简短提示并不能大幅降低成本,因为编程代理的token消耗主要来自读取项目文件、推理任务和生成代码,而非对话文本本身。