科技行业应该如何看待AI安全这一议题？越来越多的高层管理人员正在就这一问题发表看法，与此同时，一场辩论正在激烈展开：类似Hugging Face事件（一个OpenAI智能体入侵了多家不同公司系统）这样的事件，是否表明AI正处于将我们的世界推向混乱的边缘。
近几周来，多家知名实验室呼吁放缓AI发展的步伐。其中最引人注目的是，Anthropic首席执行官达里奥·阿莫迪撰写了一篇近4000字的文章，阐述了为什么应该减缓AI发展速度，以便部署足够的安全防护措施。该计划包括——在其他措施之外——一项由企业与政府在安全部署方面开展国际合作的战略。包括OpenAI的萨姆·奥特曼和xAI的埃隆·马斯克在内的竞争对手AI高管，都对阿莫迪的计划表示了认同。
这篇文章引发了整个科技行业的进一步讨论，尽管并非所有人都认同阿莫迪呼吁的全球协调行动。事实上，许多人似乎认为政府监管根本没有必要发挥作用。
这场辩论的最新参与者包括Meta首席执行官马克·扎克伯格，他本周在X平台上分享了自己对此事的看法。
“我的观点是，信任与对齐正迅速成为区分智能体和模型的最重要能力。”扎克伯格透露，出于安全考虑，他的公司推迟了一款AI模型的发布。“Meta将Muse的发布推迟了数月，以专注于安全与安保工作，”扎克伯格表示，“我们并没有在自己行动之前呼吁其他所有人这样做，我们只是将其作为日常工作的一部分去执行，因为这显然是对人们、也是对我们自身正确的事情。”
扎克伯格——他认同阿莫迪计划中的部分内容——似乎暗示政府行动是不必要的，行业内部有机形成的激励机制将促使企业把安全工作做好。市场最终应该会让那些用心打造不会引发混乱的模型的公司获得成功。这似乎与扎克伯格上个月撰写的另一篇长文观点一致，该文主张在必要时与政府进行有限合作，但更多地强调美国的竞争力才是通向繁荣科技未来的关键。
总体而言，这似乎也是许多其他科技高管的共同立场。
另一位加入这场讨论的高层管理人员是Reddit联合创始人亚历克西斯·奥哈尼安，他周三在接受CNBC采访时表示，他认为科技行业在向公众解释AI风险方面表现得相当“麻木不仁”。但与扎克伯格类似，奥哈尼安似乎也表达了这样的期望：企业能够自行解决这些问题。谷歌DeepMind联合创始人沙恩·莱格也分享了自己的看法。“我们正处在一个能力发展极其迅猛的时期，”莱格说，“但我们不能让能力的发展超过安全的发展。”他补充道：“我们需要真正深入研究其中的细节，以及这在实践中该如何运作。”
尽管大型实验室呼吁开展公私合作，但一些支持监管的人士似乎也相对满足于让企业自行制定规则。事实上，本周还有一则不太引人注目但同样有趣的报道：据The Information报道，OpenAI、Anthropic和其他主要AI公司正在合作创建一个AI标准组织——有媒体将其描述为一个私人的“自我监管机构”。
此前也曾有过关于创建类似联邦运营机构的讨论。然而，特朗普政府——其中包括直言不讳的AI支持者，并且一直在很大程度上推动科技行业不受监管（该政府甚至试图强行阻止各州政府出台自己的AI法律）——并未推进任何相关举措。该政府的“AI沙皇”、科技界资深人士戴维·萨克斯曾表示，AI监管应该交由开发AI的公司自行决定。
与白宫一样，国会中的知名议员似乎同样对接受阿莫迪提出的监管其公司的提议不感兴趣。在这位Anthropic首席执行官的文章发表后不久，众议院议长迈克·约翰逊这样回应了人们对AI灾难性发展的担忧：“你们不会在10年内全都死掉的，”他说。
一个私人组织的存在，将使整个行业除了自愿承诺之外不受任何监管约束，同时自然而然地会赋予负责创建该组织的公司一定程度的权威和影响力。这引出了另一种持续存在的观点，即该行业呼吁监管实际上是一种“监管俘获”策略。根据这一论点，那些在行业中已经占据显著地位的强势公司，可能会利用监管手段来排挤或使资源较少的小公司处于不利地位——从而扼杀竞争。这未必涉及真正的监管条例，但可能涉及一些自愿性行业标准，这些标准仍然会给实力较弱的企业带来压力。
中国政府中的许多知名人士也呼应了这一观点。在阿莫迪本周呼吁“把控前沿发展节奏”之后，中国外交部发言人郭嘉昆指责美方利用“散布恐慌”来扰乱全球AI治理的发展，而中国官方媒体的一篇评论文章则称阿莫迪的言论完全是“冷战思维”的翻版。
重塑企业与中国的商业往来方式——这正是阿莫迪在文章中呼吁的举措之一——自然可能成为美国企业为自身谋利的一个机会。阿莫迪甚至承认这正是其目标所在。“如果我们能够很好地执行这些措施，我相信它们将足以减缓中国的发展进程，从而在未来3到5年内——也就是AI在地缘政治上变得最为重要的这段窗口期——显著扩大美国的领先优势，”他在文章中写道。
然而，认为美国大型AI实验室试图让局势朝着有利于自身方向倾斜的看法，并非只有中国持有。加拿大AI公司Cohere首席执行官艾丹·戈麦斯最近指责这些公司组成了一个“卡特尔”，他在一篇博客文章中写道：“AI需要防护措施，这一点没有争议，从来都不是争议所在。争议在于谁来制定这些规则，谁能够参与其中，以及这些规则究竟在保护谁的利益。”
正如戈麦斯所指出的，AI安全领域是一个具有深刻政治色彩的领域，安全的界定方式——以及由谁来界定——最终将在很大程度上决定谁能在下一阶段的AI竞争中占得先机，谁又将被甩在后面。
Q&A
Q1：达里奥·阿莫迪在文章中呼吁的AI发展放缓计划具体包含什么内容？
A：阿莫迪呼吁减缓AI发展速度，以便部署足够的安全防护措施，其中包括企业与政府在安全部署方面开展国际合作的战略。萨姆·奥特曼和埃隆·马斯克都对该计划表示了认同。
Q2：扎克伯格对AI安全监管持什么态度？
A：扎克伯格认为信任与对齐正成为区分智能体和模型的重要能力，他透露Meta曾主动推迟AI模型Muse的发布以专注安全工作，但认为这是行业自发行为，并不主张政府必须介入监管。
Q3：为什么有人认为AI公司呼吁监管其实是“监管俘获”？
A：这种观点认为，已在行业中占据领先地位的大公司可能利用监管手段或自愿性行业标准，排挤或压制资源较少的小公司，从而削弱竞争，Cohere首席执行官戈麦斯就曾提出类似批评。
