我们正在见证一场关于AI安全和潜在放缓的大讨论。Anthropic首席执行官达里奥·阿莫迪最近发布了一项"为前沿技术设定节奏"的计划，而英伟达首席执行官黄仁勋则公开附和唐纳德·特朗普总统的说法，称AI反对声浪是骗局，监管没有必要。
在TechCrunch播客Equity最新一期节目中，柯尔斯滕·科罗塞克、肖恩·奥凯恩和我讨论了阿莫迪和OpenAI首席执行官萨姆·奥特曼这样的高管，是否真的想要放慢脚步。
我对这么多行业领袖似乎都支持阿莫迪的计划感到惊讶，但肖恩指出，这项计划在细节上有所欠缺。
当柯尔斯滕问及现有监管和自由市场的运作机制结合起来是否足以提供保障时，肖恩回答道："目前的联邦政府似乎并不急于广泛执行监管，更不用说在这个特定领域了。"
此外，他还指出："这个市场似乎并没有太多消费者选择在驱动，也就是说，如果这些公司中的某一家做了非常糟糕的事情，那么并不会看到取消订阅数量之类的实际影响。"
以下是我们对话的预览，为篇幅和清晰起见有所编辑。
安东尼·哈：肖恩，你怎么看？我们真的要"为前沿技术设定节奏"了吗？
肖恩·奥凯恩：不知道为什么，这听起来像是电影《极限特工》里的台词。这是一种非常加州风格的说法，就像"我们要为前沿技术设定节奏，兄弟"。
我不知道。我上周在这个节目里说过，我不认为我们正走向任何形式的放缓，很大程度上是因为我不认为这些公司的组织结构能够支撑那样的转变。
所以听到阿莫迪和奥特曼，甚至在某种程度上包括埃隆·马斯克这样说，与我一周前说的话几乎立刻形成了反转——我们可以讨论一下是否相信这些说法。我想说，我觉得自己之前的判断也没有完全错，因为即使阿莫迪在博客文章中提出的这些松散计划，以及其他一些领导者谈到的内容，我觉得我们仍然缺少很多具体细节，不仅是关于这些人为什么认为存在危险和风险的说法，还包括他们所说的"放慢脚步"具体指的是什么。
安东尼，我知道你上周末这件事刚爆出来的时候仔细读过这些内容，所以我很好奇，在理解他们想表达的意思方面，你是不是比我更宽容一些。
安东尼：我其实也有疑问。真正让我印象深刻的是，业内这么多人似乎很快就围绕这个观点达成了一致。甚至在阿莫迪发表博客文章之前，我就看到其他人在之前几天发布了这个计划的某种版本。
据我了解，这些建议来自AI安全社区，是酝酿了一段时间的想法，并不是阿莫迪自己凭空想出来的。但看起来很多人似乎已经准备好接受这个观点，在某种程度上，看到有这样的共识令人欣慰。但这也让我对这是否代表着真正的、朝着放缓方向迈出的重大举措有些怀疑。
柯尔斯滕·科罗塞克：首先，共识可以是件好事。但它也可能是形成卡特尔的开端。所以，我们要明确一下我们在讨论谁。我们在讨论的是前沿AI实验室，这一点很具体，也很重要。
你刚才说细节并不清楚，但我们确实知道，大致的想法是引入独立的第三方评估机构，进入Anthropic或OpenAI这样的公司内部，监督AI安全实践和事故。但这方面还有很多模糊之处。
然后还有另一项提议，即让民主国家的主要AI公司在安全标准和限制方面进行协调，以及国际协调这一部分。这些就是围绕这个计划的大致想法。
我还想补充一点，有一些非常具体的人提出了相当大的反对意见。令人惊讶的是，有些人我原本没想到会反对这个提议。最明显的一个大概就是英伟达首席执行官黄仁勋，他说了一些相当尖锐的话。我不知道你们两位对他在All-In峰会舞台上接特朗普总统电话，以及他的一些言论有什么看法。
肖恩：我认为黄仁勋在某种程度上明白，他被视为房间里最理智的成年人。这很有意思，因为我觉得这种局面已经发生了变化。如果你在一年前，甚至将近两年前问人们，在这些AI公司真正开始大规模崛起的时候，谁扮演着这个角色，我想很多人会指向微软和萨提亚·纳德拉。而我觉得微软——出于一些我们现在不需要展开讨论的原因——已经失去了作为房间里成年人的这种把控力。部分原因肯定是纳德拉曾说过要让谷歌"跳舞"，但这从未实现，事实上，在很多方面情况恰恰相反。
我认为黄仁勋明白，他不仅需要取悦最多的人，因此想说出最为审慎的话，他也是这个领域和当前政府之间最有用的联络人之一，以至于他能在这场备受瞩目、高规格的会议舞台上接到总统的电话，让两人都能借此机会回应这一系列纷争。
柯尔斯滕：说到他是房间里的成年人和联络人这一点，他确实处于可以这样做的位置。但在我看来，他的这次亮相——感觉有点像是安排好的——确实有点过头了，也真正凸显了一个事实：英伟达从AI以不受限制的速度向前推进中获益巨大。
我不想显得太愤世嫉俗，但这确实是我最初的反应。
安东尼：特朗普和黄仁勋的利益是一致的，而且黄仁勋也是在说特朗普想听的话。
我确实认为他特别关注的一些内容值得进一步剖析。首先，他谈到了"我们不会放缓"这个观点。有意思的是，"放缓"这个词本身经常被提起——但与此同时，奥特曼和阿莫迪都会使用"放缓"这个词，但他们更喜欢用的词是"设定节奏"。
而这三项提议——就是你刚才描述的那些，柯尔斯滕——理论上，它们可能会导致事情放缓，但他们并没有明确这么说。他们说的是，"嘿，我们正在采取一些基本的安全措施，并让一些人监督我们。"但据我理解，这些措施并没有内在地表明事情必须比现在进行得更慢。
柯尔斯滕：那我有个问题想问肖恩。难道不能说，在一个自由市场社会中，我们已经有现有的监管措施，而且在没有保护主义的竞争环境下，如果一家公司发布了不安全的产品，它就再也无法作为一家可行的公司继续运营？而且今天确实有监管机构可以去追究这些公司的责任？还是说你不认同这个观点？
肖恩：在真空环境中，或者在一个不受各种外部压力扭曲的市场里，是的，我认为这其中有一定道理。但我们现在的联邦政府似乎并不急于广泛执行监管，更不用说在这个特定领域了。
而且我们现在还处于一种奇怪的境地——我不太知道该怎么恰当表达，但这个市场似乎并没有太多消费者选择在驱动它，也就是说，如果这些公司中的某一家做了非常糟糕的事情，那么并不会看到取消订阅数量之类的实际影响。
尤其是现在，随着它们进军企业市场，越来越多的收入来自向企业销售服务，用"用钱投票"的方式自然就变得更加困难了。企业不会仅仅因为在原则上不认同OpenAI做的某件事，就打包行李从Codex转向Anthropic的Claude Code。
而且，它们还得到了如此多投资资金的支撑，这也让它们即使真的遭受损失，也更容易消化吸收这些损失。所以我认为，这在理论上是个不错的想法，但实际上，我觉得这种情况根本没有真正发生。
Q&A
Q1：阿莫迪提出的"为前沿技术设定节奏"计划具体是什么？
A：该计划包含三方面内容：引入独立第三方评估机构进入AI公司内部监督安全实践和事故；让民主国家的主要AI公司在安全标准和限制方面进行协调；推进国际协调机制。不过具体细节仍然比较模糊。
Q2：黄仁勋对AI安全放缓的态度是什么？
A：黄仁勋公开附和特朗普总统的说法，认为AI反对声浪是骗局，监管没有必要，并表示不会出现AI放缓的情况。有观点认为，这是因为英伟达从AI不受限制的快速发展中获益巨大。
Q3：现有的自由市场监管机制能否有效约束AI公司的安全问题？
A：存在争议。理论上竞争环境和监管机构可以约束不安全产品的发布，但实际上，目前联邦政府执行监管力度不足，加上企业客户很难仅因原则问题就更换AI服务商，且AI公司有大量投资资金作为缓冲，这些因素使得市场自我约束效果有限。
