1. 算力、数据与人才：追赶前沿的三种资本
Nathan Lambert（内森·兰伯特）开场就给出了一个简洁的框架：模型进步归结为三种不同形式的"资本"——算力、数据和人才。闭源前沿实验室OpenAI、Anthropic和Google在这三者上都占据了明显优势,但更关键的差异不在于资本总量,而在于各家组织这些资本的能力。
把org chart（组织架构）调整到能真正造出模型,这件事远比想象中难。Lambert提到Meta是一个典型案例——这家公司经历过彻底的从头重置,现在又重新走上正向轨道。这种"推倒重来"的能力,恰恰是组织差异的体现,也是解释为什么同样握有海量资源的公司,产出的模型质量却天差地别的关键线索。
他进一步区分了两家真正站在前沿的实验室的不同气质。OpenAI率先掀起推理模型革命,那张著名的推理扩展定律曲线被他称为"peak OpenAI"——这家公司最擅长的事,就是制造出一张能改变所有人思维方式的图。Anthropic则走了另一条路,长期专注于模型能完成什么类型的任务,最终收获了Claude Code带来的爆发式增长。两种文化,两种打法,但都愿意为一个被外界认为不可能的方向押下巨大赌注。
2. 中国实验室为什么选择开源:一场务实的商业决策
如果中国的实验室只做闭源API,把模型锁在自己的服务器后面从中国向外卖,会发生什么?Lambert给出的答案很直接——几乎没人会知道Moonshot AI,知道智谱的人会更少。这不是因为技术不行,而是一个纯粹的分发问题。
开源模型是一条抄近路,能让这些公司直接进入全球对话。中国实验室很清楚美国市场对这类产品有巨大的付费需求,也清楚这波讨论的方向在哪里,他们在很实际地跟随这个趋势——这跟政府指令没什么关系,更像是一家创业公司在做显而易见的生存选择。
但这并不意味着他们会止步于"追赶者"的位置。Lambert特别提到一个反直觉的观察:中国政府对企业行为的响应速度和力度,是美国很难想象的——这种环境反而让中国的实验室对安全问题抱有更严肃的态度。他没有深究这个话题,但点出了一个核心区别:OpenAI和Anthropic想做的是开创新范式、实现真正的递归式自我改进（RSI),一旦率先做到就能让公司永远赢下去;而中国的实验室目前仍处在追赶阶段,这是两种完全不同的游戏。
3. 蒸馏不是作弊,是用钱换算力的等价交换
被问及蒸馏（distillation）是否是中国模型快速追近前沿的主要杠杆时,Lambert没有否认,但给出了更精确的解释。中国的实验室技术水平确实很高,人才储备也完全能与硅谷匹敌——说中国在人才上不如美国,这个说法站不住脚,因为中国有太多人在以极高水平接受训练。真正稀缺的是算力。
他讲了一个细节:当地研究者听说一个普通的OpenAI研究员随时能调用5000个H100等效算力时,下巴会惊讶到合不上。这种差距之大,让蒸馏成为了一种"用钞票买算力"的替代方案——语言模型的输出本质上是算力的函数,如果你已经知道自己想要什么输出,那效果就等同于拥有能生成这些输出的算力。
Lambert回顾了后训练范式的演变:早期的RLHF时代,后训练主要依赖监督微调,做法很简单——拿到最强模型的输出,做下一个词预测的损失函数训练,只要能接触到合适的提示词(prompt),模型表现就会相当不错。他提到自己在AI2与Hannah共同带领后训练团队时,提示词始终是后训练工作里被反复确认的关键变量。这也解释了为什么蒸馏能在短短两三个月内把开源模型拉到接近前沿的水平——它复用的正是闭源实验室已经验证过的"正确提示词+强模型输出"这套组合。
