今年以来,Token工厂几乎是算力行业被提及最多的一个词。年初,这一概念开始进入产业政策的视野,到了下半年,从互联网巨头、运营商到各地智算中心的建设方,几乎都在这条路上,推理服务也开始从过去按卡计价的算力租赁中分化出来,逐渐成为一种独立的产品形态。

但热闹之下,有一个不太好回答的问题一直悬着,那就是Token工厂的边界究竟应该由算力规格来定义,还是由输出质量、延迟与单位成本来定义。

这两种定义方式,对应的其实是两门不同的生意。卖算力交付的是一批资源,用得好不好由客户自己承担;卖Token交付的则是结果,从质量、延迟到稳定性,责任都在了服务方这一侧。

围绕这条分界线,在由 PEC 社区联盟、至顶科技、软积木共同主办,AIGCLink、LangGPT 社区、爱智岛人工智能艺术家创作联盟、硅创联、海升睿达联合主办的第三届AI 创新者大会暨 PEC 2026 上,平凯星辰副总裁刘松、趋境科技首席引擎架构师谢威宇、亚康启源CMO周立宾,以及首都在线解决方案总监王超,四位分别来自数据基础设施、推理引擎、算力服务与云服务领域的从业者,在以"构建Token工厂"为题的圆桌对话中讲了各自在过去一年里看到的变化。

PEC 2026:当Token成为标准化商品,Token工厂代表效率,也代表场景

Token烧在哪里?

刘松打了一个比方,Token工厂相当于国家电网,跑在上面的各类Agent 应用则相当于家用电器,电网建得再大,最终还是要看接了多少电器、每天用掉多少度电。按照他的观察,目前八九成的Token消耗仍然集中在两类场景上,一类是编程,另一类是视频生成。

今年上半年最大的变化发生在编程这一侧。但消耗涨上去了,企业侧的效果却没有同步显现出来。刘松坦言,现在的情况是个人工程师消耗了很多Token,但在企业层面还没有看到相应的效果。

刘松提到,未来编程领域开始大规模走向自动化,人只负责提出需求,后面由多个智能体自行协作完成,这方面,平凯星辰的Loop已经验证了这种模式,这种“软件工厂”方式会带来巨量的Token消耗。

在他看来,接下来两三年最大的Token消耗会来自智能体,尤其是进入企业级严肃任务的多智能体协作。这其中,还隐含着对Token质量的不同要求,一些很酷炫的音视频生成,用的Token反而不必那么“贵”,而大规模软件工程类任务,因为要求高准确率,对模型的智力水平反而更高,价格自然也不在一个区间。

从卖资源到卖服务

消耗结构的变化,会传导到了交付方式上。

王超看到的最直接的变化,是客户从买资源逐步过渡到买服务。在他看来,这是一个必然的过程,整个计算产业本身就是这么走过来的,最早只卖服务器资源,后来有了虚拟化和服务化,客户通过API去调用底层的计算资源,但能让客户想付费的,却是具体的业务。

事实上,过去买GPU的客户大致可以分成两类,一类是专门做模型的公司,GPU本身就是其业务的一部分,另一类是传统企业,买GPU更多带着尝试的性质。王超表示,现在基本已经过了尝试阶段,企业更想要的结果是AI如何帮到实际业务,没有必要再自己从底层搭一套。如果从底层资源开始搭建,再部署相关的大模型,最终产生业务价值仍然需要较长的周期,也正因如此,首都在线在做MaaS聚合平台,让客户通过一个API直接用上想用的模型。

周立宾提到,前两年智算中心的建设以训练为主,那这一阶段的投入几乎不计成本,看重的是技术领先性,以及在行业里的份额和认可度;而到了推理阶段,大家则更在意最终产生的价值如何回到成本里。

按照周立宾的回忆,转折点出现在去年四季度,在那之前,客户对智算中心的诉求比较单一,就是做训练,要的是规模化集中。而今年年初以来,行业一直在琢磨怎么提高服务器的负载率和整体的压榨能力,以及如何对抗不断上升的算力成本。在他看来,无论从哪个角度切入,Token工厂追求的都是同一个目标,那就是降低单位成本。因为电力成本国内相对有优势,而算力成本仍然处在上升通道。

供需关系也在变,本次圆桌上的一个共识是,去年10月之前市场还是买方市场,之后逐渐转为卖方市场,到今年年底至明年,有望回到相对合理的状态。周立宾用了"紧平衡"三个字来形容,他判断,今年年底到明年年中,各家的策略调整会开始显出效果。

Token成为标准化商品

交付方式的变化决定了这门生意怎么卖,那么Token本身的商品属性,决定了它最终的优势是什么。

谢威宇认为,Token工厂与此前云服务最大的区别在于接口是标准化的,用户接两家供应商,只要模型相同,拿到的Token就完全一样。

从这个角度看,Token是批量生产的商品。

既然是商品,生产它工厂的效率也就成了核心。谢威宇指出,Token工厂的原料是算力和电力,在发展初期,通过推理引擎的性能优化和整个平台的调度,完全相同的算力和电力可以产出多得多的Token。

在效率上,王超给出的是另一组具体做法。他表示,当前海量的GPU选型已经开始偏向推理加速能力。首都在线也在用KV缓存、提示词加速等技术在推理层面提升性能,让单位GPU产出更多Token。

不过,效率能优化的空间之外,还有一道更硬的约束,那就是芯片供给。谢威宇判断,产量的扩张会受限于芯片供给。因此,未来大规模国产化是必然趋势,而趋境科技在上个月就已经实现了大规模的国产化推理。

至于国产芯片与主流产品之间的差距,谢威指出,推理过程有预填充和解码两个阶段,解码受制于带宽,国内在显存这一环存在明显限制,但国产卡在价格上拥有优势。

Token要落到行业里

效率解决的是Token怎么造出来,接下来的问题是,这些Token如何变成企业愿意付钱的东西。

刘松提出了一张分层的图谱,最下面一层逐步被Token工厂集约化,屏蔽掉GPU的差异和推理框架的差异,企业从API接入即可;再往上是广义的数据层,也就是湖仓一体,结构化和非结构化数据都要存得下;更上面一层以上下文和记忆、知识工程为主,可以理解为新一代的上下文数据库加知识工程数据库;最上面才是业务逻辑、本体和客户需要重建的工作流。

在他看来,企业级智能体今年之所以成为一个特别火热的词,是因为它把Token的“脑力”转化成了场景价值。

周立宾表示,亚康启源之前主要服务大模型公司和互联网企业,现在开始向行业里沉,例如与江苏一家化工企业的合作,就打通了从Token工厂到应用的链路。前不久,亚康启源还与一家模型企业签订了战略合作,在他看来,模型公司本身产出模型,但Token仍然需要进入各个行业才能产生价值和变现,这样的合作既帮模型公司完成落地,也能帮终端用户拿到场景化的解决方案。

也正因如此,周立宾并不认为资源本身构成壁垒。对于客户而言,换一个API只是改几行代码的事,而真正沉淀在客户那一侧的,是围绕业务的维护和工具。

至顶网人工智能频道 作者:毛烁