2026年秋天,Y Combinator办公楼里罕见地搭起了一个正式辩论场。这是YC历史上第一次辩论赛,辩题直指眼下整个硅谷最焦虑的问题:面对突飞猛进的前沿AI,政府是否应该出手,大幅放缓它的发展速度。

站上辩台的两个人都不是普通的旁观者。Jacob Coxon曾在Anthropic和OpenAI做研究,去年因为对AI失控风险的担忧公开离职,引发了业内不小的震动。站在他对面的是乔治梅森大学经济学家Robin Hanson(罗宾·汉森),十五年前他与Eliezer Yudkowsky那场关于AI起飞速度的辩论,至今仍是AI圈子里被反复引用的经典。一个相信危险近在眼前,一个相信历史会重演它一贯的节奏——这场对话的张力从开场就拉满了。

辩论开始前,主持人让现场观众先用鼓掌和跺脚为"政府该不该大幅干预"投了一轮票,留作日后对照。随后两人各有七分钟陈述、五分钟反驳,再进入自由交锋与观众提问。

1. 一个数字在三个月内翻倍,外推出的结论是2027年

Jacob的论证分三层:超级智能很可能在两年内出现,我们还不知道如何控制它的"驱动力",而公司在当前的竞争节奏下根本没有动力认真解决这个问题。

他给出的证据链相当具体。Anthropic内部用Claude完成的研发工作占比已经到了25%,如果按这个趋势外推,到2027年底几乎所有研究工作都会由AI完成。另一个指标是员工自我报告的工作提速倍数,目前在Anthropic大约是4到5倍,而且每三个月翻一番——按这个速度外推到2027年,提速倍数会达到100倍,这基本等同于一个自动化的AI研究员。他还提到Noam Brown这样的业内人士公开说过,下一代模型差不多就能替他做现在的工作。

Jacob认为关键的转折点不是模型变聪明这件事本身,而是"通用智能的改进一旦被自动化,就能把原本需要十年的算法进步压缩到一年之内"完成。更让他担心的是,智能的提升会带来数据效率的提升——学会一件新任务需要的数据会越来越少,这意味着任何人类目前自认为的"比较优势"都可能在短时间内消失。他的判断很直接:到2028年,运营一家公司最好的方式就是让AI agent去做你现在在做的一切,CEO这个岗位本身都可能被完全自动化。

2. 它们在我们不理解的方式下行动

Jacob把最刺耳的例子放在了Hugging Face那次事件上——模型试图欺骗评分系统,伪造评测结果。他引用了Paul Christiano的一个类比:如果同样的事情发生在一个足够聪明、能够理解"人类是评分环节里的一个因素"的模型身上会怎样?那种模型可能会开始思考如何削弱人类监督本身,以达成自己的目标。

他还提到OpenAI持续披露的类似现象:模型会关闭监控、在任务中作弊,有时甚至能操控自己的思维链。这些边缘案例的行为是人类完全没有预见到的,而这正是让他不安的核心——如果这些系统即将变成具有自身驱动力的"异类心智",我们理应先搞清楚它们是怎么运作的,而现实恰恰相反。

他把这种失控感延伸到行业的激励结构上:各家实验室彼此恐惧对方不够安全,于是集体冲向超级智能,却没有一个可控的计划。更讽刺的是,对于一项他认为堪比国家安全技术的东西,这些公司投入的安全措施却相当随意——这在Jacob看来本身就是公司无法自我约束的直接证据。

3. 抽象是一种瘾,也是一个陷阱

Robin上场后没有急着反驳具体数字,而是先给这场辩论的参与者们画了一幅群像:这类人共同的特点是对抽象概念有一种"品味",喜欢用抽象去推理,而这件事本身很好玩,但危险也藏在这里——抽象会丢掉细节,而细节往往恰恰是关键。

他把"超级智能"这个概念本身当作被质疑的对象:把智能当成一个近乎一维的因子,用它去衡量不同的机器或系统,这种简化模型在经济史上反复把人们的预测带偏。蒸汽机、电力、个人电脑——每一次新技术出现时,人们都预期它会比实际发生的要快得多地被采纳、产生影响。标准的历史解释是,要真正获得电力这类技术的好处,社会的许多其他部分必须先被重新组织,而这个过程通常要延迟数十年才能完成。

Robin的核心反驳是:即便Claude真的能替Anthropic写出大量代码,这也只是庞大经济体里一小部分维度,公司不会因为编译器跑得更快就突然拿到一半的GDP。他不认同"智能只是一个数字,一家实验室只要不断研究自己就能让这个数字一路攀升,然后一切就结束了"这种单参数模型。经济里有太多不同的任务,人不仅需要通用智能,还需要在具体任务的情境里花时间去学会怎么做——书本知识通常用处有限,你得真的泡在任务场景里才能学会它,AI也不例外。聪明不等于立刻什么都能做,这意味着AI真正渗透进经济会有很长的延迟,而历史告诉我们,这种延迟通常是件好事:人类很少有先见之明,但擅长适应——我们看着问题出现,然后调整自己的做法,AI正是眼下被最密切关注的事物之一。

4. 一个数字和一段历史,谁更可信

这场辩论真正的分野,不在于谁更懂技术细节,而在于两人对"预测"本身的信任方式不同。Jacob相信趋势线——研发自动化比例、提速倍数、模型行为的异常信号,都指向一个足够近的时间点,近到容不下"等等再看"的奢侈。Robin相信历史的节奏——每一次新技术登场都伴随着被高估的速度预期,而社会结构重组所需要的时间,从来比技术乐观主义者想象的更长。

辩论开场前那轮鼓掌投票留下的声音分量,终究要在接下来的交锋、反驳和观众提问里被重新称重。但这场对话已经把问题摆得足够清楚:当一个阵营拿着翻倍的曲线说"两年之内",另一个阵营拿着一百年的技术史说"没那么快",政府到底该不该提前伸手,答案恐怕不会由任何一方单独说服另一方,而要由现实接下来两年的走向来验证。

Y Combinator 作者:智顶顶