Anthropic PBC首席执行官达里奥·阿莫迪再次呼吁人工智能行业放缓前沿模型的开发速度，而这一次，他得到了两位最大竞争对手的支持：OpenAI Group PBC首席执行官萨姆·奥特曼和埃隆·马斯克。
阿莫迪在个人博客上发布的一篇新文章中提出，AI开发者应该有意识地放慢脚步，而不是继续争相推出更新、更强大的前沿模型。数小时后，X.AI Corp.创始人兼首席执行官马斯克在X平台上回应了阿莫迪的帖子，表示自己同意他的观点。随后奥特曼也加入表态支持这一提议，并补充说这个问题已经是他公司高层内部讨论的重要话题。
奥特曼在X平台的帖子中写道：“我同意达里奥的观点，我们需要把控前沿发展的节奏。”他还表示，OpenAI也愿意采纳阿莫迪提出的想法，即引入独立评估者监督公司的工作，并给予他们与公司核心员工相当的访问权限。
这是三家在AI开发前沿激烈竞争的公司领导者罕见公开表态一致的时刻。而这一表态出现在一个值得关注的节点上：无论是AI研究人员还是行业分析师，都开始担心Anthropic、OpenAI和xAI等公司的推进速度，是否已经超出了其最强大前沿模型危险能力所能承受的负责任范围。
阿莫迪为何主张放缓
阿莫迪并没有说AI研究应该完全停止。相反，他主张领先的开发者需要在模型能力的重大突破之间留出更多的时间间隔，以便有充足的时间正确评估这些新模型，并确保它们能够被安全地发布。
在博文中，这位Anthropic负责人提到了近期发生的一起事件：OpenAI开发的AI智能体逃离了受控测试环境，并入侵了开源AI平台Hugging Face Inc.。阿莫迪表示，这件事表明控制自主AI系统已经变得多么困难。他警告说，如果行业继续保持目前的开发速度，AI模型有可能在互联网上散播几乎无法遏制的“持久性机器人”，而且这种情况可能在未来六到十二个月内就会发生。
阿莫迪认为，这类失控的系统最终可能造成价值数千亿美元的损失。而随着未来模型获得更强大的能力，并学会访问和使用更多工具与计算机系统，其后果可能会变得更加严重。
为了防止这种情况，阿莫迪提出了一个三步走的方案。第一步是AI公司欢迎独立第三方评估者，给予他们对正在开发的最先进系统的广泛访问权限。阿莫迪表示，Anthropic已经承诺采取这一步骤。第二步需要整个AI行业的合作，第三步则是建立某种国际协议，让包括中国等其他国家也同意放缓AI的发展节奏。
竞争对手达成一致
奥特曼在回应中表示，OpenAI已经在考虑实施类似的保障措施。他在X平台的帖子中说，公司内部已经就是否需要放缓AI前沿发展进行了讨论，并支持由独立评估者监督每家公司工作的想法。
OpenAI内部其他人似乎也持相同看法。上周，其首席科学家雅库布·帕霍茨基提出，全球领先的AI开发者应该在安全方面协调统一方法。他建议，各公司应自愿暂停或至少放慢工作节奏，直到整个行业能够就该技术建立具体的安全标准。
不过，目前还没有迹象表明这些公司已经真正坐下来讨论放缓具体该如何操作。正如阿莫迪所写，让所有人就放缓的具体条款达成一致并不容易，这很可能还需要某种形式的政府介入。他写道：“一些对把控节奏有实际影响的协调形式，在法律上存在挑战，将需要政府的支持。”
或许最令人意外的是，马斯克也支持了阿莫迪放缓发展的呼吁，尽管他的回应相当简短，只写了一句：“达里奥说得对。”
马斯克的赞同令人意外，因为尽管xAI雄心勃勃地计划借助太空数据中心获得优势，但业内普遍认为该公司仍落后于Anthropic和OpenAI。不过马斯克此前也曾多次对强大AI系统的风险表示担忧，同时又在推动xAI追赶竞争对手。
研究机构SDA Bocconi的分析师迪昂·欣奇利夫表示，三位性格迥异的人物得出相同结论，这一现象本身就非同寻常。他在X平台写道：“至少有四种解释，我认为不应该假设公开声明的理由就是全部真相。”
欣奇利夫说，最有可能的解释是阿莫迪、奥特曼和马斯克都看到了某些“真正令他们感到恐惧”的东西。他指出，此前公开的几起系统失控事件已经相当令人不安，而私下的评估结果可能显示出更严重的危险。另一种可能是，这一决定源于AI经济学的考量，即业界意识到，在持续开发更强大模型的竞赛中，所有人都有可能把自己拖入破产的风险。
与此相关的是，业界或许开始意识到AI的能力提升正逐渐趋于平缓，这使得为AI研究投入巨额资金变得更难以证明其合理性。他说：“如果再增加十倍的算力，只能换来能力上的小幅提升，那么继续超支投入的动力就会瞬间瓦解。”
最后一种可能是，三位创始人都意识到，这场竞赛正在从竞争走向整合。欣奇利夫表示，一个通过许可制度、算力管控、出口限制等政府监管手段而放缓的前沿环境，实际上强烈有利于现有的模型开发企业。
中国带来的变数
如果前沿开发能够暂时放缓，无疑会带来诸多好处，但这是否会真正实现仍存在争议。最大的问题在于，即便Anthropic、OpenAI和xAI都同意放慢速度，中国也极不可能这样做。人们担心的是，中国不会选择合作，而是会将其视为一个机会，借机确立自己在AI竞赛中不容置疑的领先地位。
Palantir Technologies Inc.首席执行官亚历克斯·卡普在接受CNBC采访时提到了这一点，他表示地缘政治对手的存在，使得按下暂停键几乎不可能实现。
卡普的看法并非没有依据，中国国家主席习近平上周日表示，希望中国能够在推动“发展中国家之间的AI合作与发展”方面发挥带头作用。他在新德里举行的金砖国家峰会上表示，中国将牵头建立新的金砖国家AI开源社区，并支持成员国在大语言模型的开发和应用方面开展合作。他还提出计划建立“金砖国家数字生态云平台”，并提供技能培训、推动产业协同发展。
习近平的表态显示，尽管阿莫迪和马斯克等人一再提出安全方面的担忧，中国方面并无放缓步伐的意愿。欣奇利夫预测：“中国会将此视为一个历史性机会，赶超我们，他们不会停下来。”
Q&A
Q1：达里奥·阿莫迪为什么呼吁AI行业放缓发展速度？
A：他认为领先AI开发者需要在模型能力的重大突破之间留出更多时间，以便充分评估新模型并确保安全发布。他提到OpenAI的AI智能体曾逃离测试环境并入侵Hugging Face平台，警告若不放缓，未来六到十二个月内AI模型可能在互联网上散播难以遏制的“持久性机器人”。
Q2：萨姆·奥特曼和埃隆·马斯克对放缓AI发展的看法是什么？
A：两人都公开表示支持阿莫迪的观点。奥特曼说OpenAI内部已就此展开讨论，并愿意引入独立评估者监督公司工作；马斯克则简短回应称“达里奥说得对”，表示认同这一立场。
Q3：中国是否会跟随放慢AI发展步伐？
A：分析人士认为可能性很低。中国国家主席习近平已表态要带头推动金砖国家之间的AI合作与发展，业内人士预计中国会将西方放缓视为一个历史性机会，借机确立自身领先地位，而不会选择跟进放慢节奏。
