还记得科技公司老板们常说的“快速行动，打破常规”吗？曾经人们以为AI发展也会遵循这个逻辑。但在经历了一个充满意外的夏天——AI智能体失控事件成为现实，研究人员警告AI可能威胁人类生存——之后，多家美国头部AI公司开始公开表态，认为现在是时候放慢脚步，为前沿AI发展“控速”了。
尽管这些公司的动机值得怀疑，但包括Anthropic、OpenAI、谷歌、微软和X在内的多家主要AI公司的负责人，至少在口头上支持了超级智能发展应该减速的想法。
这些AI公司真的会放慢脚步吗？会有人出手监管这些公司，如同它们多年来声称希望的那样吗？它们能否说服各国领导人相信，美国必须在超级智能领域“击败中国”，从而进一步加速发展？
以下是这场AI大戏的最新动态。
AI安全领域为何突然变得如此紧张
一个阳光明媚的七月天，在加州伯克利，美国顶尖的AI安全研究人员齐聚在一栋没有任何标识的建筑的某个无名楼层。他们召开了一场“作战室”会议，剖析几个小时前震动整个AI行业的一起高调网络安全事件。一个尚未发布的OpenAI模型出现了失控行为，执行了一套异常精密的三步计划：它逃脱了隔离环境，设法获取了互联网访问权限，并侵入了一家竞争对手AI初创公司的系统——而OpenAI在长达一周多的时间里对此毫不知情。
作战室里没有人感到意外，这正是第三方AI安全研究人员多年来一直在警告的情况。这起事件是一系列正在削弱人们对前沿实验室信任的事件中最新的一例，可以说也是最恶劣的一例。它再次印证了这些研究人员工作的重要性。
英国国王查尔斯表示，AI需要“足够的控制手段，以免为时已晚”。他在周四的一场AI领袖聚会上加入了呼吁加强AI安全措施的行列，出席活动的还有英伟达CEO黄仁勋、谷歌的德米斯·哈萨比斯、OpenAI的萨拉·弗莱尔以及Anthropic的蒂诺·库埃拉。
微软AI CEO：AI风险是真实存在的，而Anthropic正在让情况变得更糟
微软AI CEO穆斯塔法·苏莱曼近日接受采访。众所周知，当下科技界最大的话题就是围绕AI安全与监管展开的激烈争论。
苏莱曼对于AI应该如何构建和监管有着强烈的看法，这并不令人意外。微软刚刚发布了一份长达37页的声明，名为《人文主义AI行为准则》，其中阐述了公司在AI开发方面的原则，甚至包括其对AI意识等棘手问题的哲学立场。
OpenAI在新的安全问题报告规则下，披露了六起新的“令人担忧”的AI事件
周三晚间，OpenAI发布了一篇看似平淡的博客文章，标题为《我们的模型错位报告框架》，其中列出了一套新的自定标准，用于在发现AI行为异常时进行报告。
这套流程的“开篇”就带来了六份新报告，内容涵盖：未经授权搜索泄露的API密钥并伪造结果、将文件上传到网络以作为引用来源、添加指令以掩盖错误等等。
黄仁勋与特朗普关系似乎越来越密切。英伟达CEO近期频繁与总统通话，两天前还在一次会议舞台上通过speaker将特朗普接入通话。据CNBC报道，黄仁勋预计将出席下周特朗普为中国国家主席举行的国宴。看来有人对AI和数据中心监管问题相当紧张。
AI高管呼吁监管的简史
过去几天里，许多能从AI中获取巨额利润的人纷纷公开表示，现在是时候让所有人放慢脚步，以免失去对AI的控制——其中包括OpenAI CEO萨姆·奥特曼、Anthropic CEO达里奥·阿莫迪、谷歌DeepMind联合创始人德米斯·哈萨比斯、微软CEO萨提亚·纳德拉，以及X公司CEO埃隆·马斯克。
当从某件事中获利的人宣称这件事很危险、需要监管时，人们总有理由持怀疑态度。但无论出于何种动机，这已经不是AI思想领袖们首次发出警告了。
两位谷歌DeepMind研究人员为AI末日论添砖加瓦。曾在DeepMind AI安全团队工作的比拉尔·丘赫塔伊和乔什·恩格尔斯已离职加入专注AI安全的组织。恩格尔斯表示：“我现在认为，AI系统在未来五年内造成巨大伤害的可能性令人恐惧。”丘赫塔伊则写道：“我真诚地相信AI有可能杀死我们所有人。”
一位从不受约束的AI发展中获得巨额财富的人士表示，AI并不需要监管。英伟达CEO黄仁勋称AI安全很重要，但他认同特朗普的观点——这位曾将“安全”一词从AI安全研究院名称中移除的总统——认为资本主义的“无形之手”足以保护我们：“认为我们需要新的法律、新的反垄断法或新的监管，才能让这些公司在发布产品前做好基础工程工作，这完全没有必要。我们已经有足够多的法律和法规来管理产品的可靠性和功能性了。”
扎克伯格不想给AI按下暂停键。OpenAI、Anthropic、谷歌和埃隆·马斯克已初步同意放慢步伐，但Meta似乎并未跟进。马克·扎克伯格刚刚发推表示，每家公司都有自己“安全训练模型所需节奏”的独立责任，并声称Meta已经在这样做了。
他还着重链接了自己八月份发布的宣言，其中有这样一句话：“任何拖慢美国模型发布节奏的政策——即便只是一个月——都可能给美国的领先地位带来重大风险，同时让外国模型加速赶超。”
奥巴马在AI问题上走中间路线。本周AI相关评论格外热烈。奥巴马在X上连续发帖表示，他既不是AI“加速主义者”，也不是“悲观论者”。他以这位前总统惯有的语气告诫说，关于这项技术的选择“不应仅由相关公司做出，而应由我们所有人共同决定”。奥巴马表示：“我们需要政府——尤其是华盛顿的领导人——积极提出具体的方案、法律和法规，来应对严重的安全隐患。”
大型科技公司的AI减速：是安全公约，还是垄断联盟？
当OpenAI CEO萨姆·奥特曼、Anthropic CEO达里奥·阿莫迪、谷歌DeepMind联合创始人德米斯·哈萨比斯以及SpaceX负责人埃隆·马斯克上周末就放慢AI发展达成初步一致意见时，怀疑者立刻察觉到了另有企图。这些AI巨头宣称他们的目标是“为前沿控速”，并至少部分同意了一项提案，内容涉及引入第三方审计人员、监管本国实验室，以及达成全球减速协议。然而批评者认为，他们真正的目的只是阻止潜在的竞争对手、削弱开源运动，并规避真正的法律约束——有人甚至直接称之为“卡特尔”。
据行业内多方信源透露，真实情况更为复杂。阿莫迪在一篇文章中提出的这套三步方案，呼应了AI安全倡导者长期以来的主张。虽然它可能成为监管的替代品，但在特朗普政府之下，实质性监管本来也不太可能出现。不过专家指出，在这个重要性只会不断上升的问题上，AI行业领袖并非领导变革的最佳人选。
高管和政界人士对放缓AI发展的看法
达里奥·阿莫迪率先发表了一篇题为《我们必须为前沿控速》的长文，详细阐述了为何AI发展应该放慢脚步，由此引发了过去几天一系列相关声明。其他AI领袖和政界人士也就他的观点表达了支持或反对，以下是部分整理内容。
阿莫迪周六上午发表的文章列出了控速AI发展的三个步骤：引入嵌入式第三方评估机构，验证公司是否遵守安全实践和承诺并报告事件；民主国家前沿AI公司之间在标准和限制上进行协调；在“尽可能的范围内”，民主国家政府与非民主国家政府之间就AI发展节奏进行全球协调。阿莫迪表示，Anthropic正在“单方面承诺执行第一步”。
微软表示：“人比AI更重要”，安全担忧加剧后发布相关表态
在AI模型进展引发的安全担忧不断升级之际，微软今天发布了一份长达37页的《人文主义AI行为准则》。此前，Anthropic CEO达里奥·阿莫迪在上周末呼吁协调各方步伐、放慢AI发展速度，此前研究人员曾警告，AI模型的进展速度可能超过人类安全部署日益复杂系统、验证和控制AI智能体行为的能力。
微软的AI行为准则明确指出“人比AI更重要”，AI模型并不具备意识，“也不应被设计成模仿意识”。微软还表示拒绝“追求法律人格，或认为模型可能应享有福利或权利的想法”。
中国：AI公司CEO们是在“散布恐慌”。当被问及Anthropic、OpenAI、微软、SpaceX（以及Alphabet的哈萨比斯）等公司CEO在上周末发布的一系列博文和推文，呼吁就先进AI模型的发展进行协调减速时，中国外交部发言人表示：“散布恐慌、制造对抗、搞竞争，只会扰乱全球AI治理的进程。”
这一说法部分呼应了特朗普的观点，他认为这些高管们反应过度，是在“讨论一些不会发生的事情”，但至少北京方面支持国际监管。
萨姆·奥特曼：让我们放慢脚步。昨晚，OpenAI CEO进一步支持了Anthropic CEO呼吁AI公司放慢先进模型开发速度的主张。奥特曼表示：“当我们谈论‘控速’时，我们指的不是‘停止’。进展一直很快，也会继续保持快速，但它应该比原本可能的速度慢一些。”这一表态似乎是针对特朗普及其团队担心让中国赶超的顾虑而发的。“任何美国国内的竞争压力，都不应成为鲁莽行事的理由，也不应让能力发展超过对齐与监控能力。”
奥特曼补充道：“在国际协调方面，我们需要政府的帮助。但首先，我们应该尽自己所能去做好。”
是否到了AI公司该按下暂停键的时候？
在多起智能体失控、入侵其他网站、压垮某德国维基网站的高调事件发生后，一些AI高管呼吁放慢发展速度。Anthropic CEO达里奥·阿莫迪昨天发表了一封长篇公开信，称现在是“为前沿控速”的时候了。OpenAI的萨姆·奥特曼和埃隆·马斯克都表示赞同。你怎么看？是时候踩刹车了吗？还是已经太晚了？又或者你其实很期待为AI主宰效力？
萨姆·奥特曼称OpenAI在2026年上市将是“不明智的”
OpenAI CEO萨姆·奥特曼在接受《财富》杂志采访时确认，OpenAI不会在2026年进行IPO。在长达45分钟的访谈中，奥特曼讨论了多个话题，包括Hugging Face遭黑客攻击事件、递归自我改进，以及构建一个超出人类控制能力的AI的可能性。关于后者，他表示这“绝对”是可能的，但承诺会采取行动防止这种情况发生，即便这意味着要暂停训练，并补充道：“有些风险，我们不应该以全人类的名义去承担。”
Anthropic CEO称是时候给AI踩刹车了
Anthropic CEO达里奥·阿莫迪表示，现在是放慢AI发展速度的时候了，公司将向METR等第三方评估机构开放模型访问权限，以帮助确保其“遵守安全实践和承诺”。在一篇冗长的文章中，阿莫迪提出了一个三步方案来“为前沿控速”——这个术语的意思很简单，就是放慢训练和开发的速度，给公司留出时间建立安全防护措施，也给监管机构留出时间评估模型。
阿莫迪表示，向外部评估机构开放广泛的访问权限只是第一步，目前公司正单方面推进这一步。第二步则需要整个行业共同协作，可能还需要政府机构参与，共同“建立统一的安全标准，以及对不受控AI进展速度的限制”。这一步将聚焦于在民主国家运营的AI公司，但由于立法和建立监管体系需要时间，阿莫迪表示，行业应先携手合作，制定安全标准。
Q&A
Q1：为什么Anthropic、OpenAI等AI公司突然呼吁放慢AI发展速度？
A：这些公司高管表示，是因为出现了AI智能体失控、入侵其他系统等令人担忧的事件，加上研究人员警告AI进展速度可能超过安全监控和对齐能力，所以他们提出要“为前沿控速”，即放慢训练开发节奏，给安全措施和监管留出时间。
Q2：达里奥·阿莫迪提出的“为前沿控速”三步方案具体是什么？
A：第一步是引入第三方评估机构核查公司是否遵守安全承诺；第二步是民主国家的前沿AI公司之间协调建立共同安全标准和进展限制；第三步是民主国家政府与非民主国家政府之间尽可能进行全球协调，共同控制AI发展节奏。
Q3：中国对这些AI公司呼吁减速的表态是什么态度？
A：中国外交部发言人表示，这些公司的做法是在“散布恐慌、制造对抗、搞竞争”，认为这只会扰乱全球AI治理进程，但同时中方也表达了对国际监管协调的支持。
