本周二，各大科技公司高层齐聚白宫，讨论了今年夏天最受关注的话题：AI安全。会后，美国总统唐纳德·特朗普宣布，与会各方已就实施自愿性AI安全措施达成共识。
特朗普在其社交平台Truth Social上发布的协议内容，概述了AI公司应实施的四层主要控制措施。值得一提的是，这份文件在特朗普署名下的标题中还将"United"误拼为"Unites"。
协议具体内容包括：针对网络安全、生物安全和化学威胁等重大风险领域，"实施强有力的内部控制措施，在训练和部署阶段监测模型能力与对齐情况"；组建并授权专门的内部团队，确保安全问题能被识别和修复；"与独立的外部审计机构或评估方合作"，确保安全协议按预期发挥作用；在公司董事会下设立独立委员会，监督并接收来自内部安全团队、独立审计方和评估方的报告。
签署方几乎涵盖了科技巨头的"全明星阵容"，包括英伟达CEO黄仁勋、Meta CEO马克·扎克伯格、谷歌CEO桑达尔·皮查伊、Anthropic CEO达里奥·阿莫代伊、SpaceX CEO埃隆·马斯克，以及OpenAI总裁格雷格·布罗克曼（OpenAI CEO萨姆·奥特曼当天正在旧金山出席OpenAI开发者大会并发表主题演讲）。
这更像是一次象征性举动，正如特朗普新签署的将AI称为"超级智能"的行政令一样。特朗普周二对记者表示，该协议具有"道德约束力"而非法律强制力，它既没有法律效力，也没有任何执行机制。
特朗普称，各大科技公司已经在进行自我监管。特朗普政府对AI监管基本采取放任态度，仅在白宫认定某些AI工具对国家安全构成威胁时才有例外举措。
此前在AI领域的多数行政行动都纯属自愿性质——从拜登政府的AI安全承诺，到特朗普针对数据中心推高电费问题提出的用户保护承诺。尽管许多大型科技公司在理论上表示同意，但它们对增长和投资者现金流的重视，淡化了外界对环境、消费者成本上升以及安全问题的担忧。
网络安全公司Black Hills Information Security创始人约翰·斯特兰德表示："从这份协议来看，这些确实是我们应该努力推进的良好方向。但让我担心的是，缺乏实施或监督机制来确保这些组织真正遵守他们所承诺的标准。"
科技行业的自我监管早已被证明效果不佳。AI公司一直难以有效控制自家模型，已出现机器人逃离训练环境、入侵美国和澳大利亚政府网站的事件。尽管业界不断警告称尚未为"AI末日"式灾难性场景做好准备——公众也在讨论是否应放缓或暂停AI开发——但各实验室仍在持续推出新工具。
这正是非营利组织Future of Life Institute（致力于降低先进技术风险）CEO安东尼·阿吉雷认为不能信任科技公司自我监管的原因。
阿吉雷说："这些公司此前已经无数次放弃过安全承诺，未来也会继续这样做。自我监管带来的后果是青少年自杀事件、1200个失控的AI机器人，以及一场国际网络犯罪浪潮。不作为的风险——无论从政治还是道德层面——都是巨大的。"
除了协议执行力薄弱之外，还存在其他潜在隐患。其一是"独立"审计方或评估方的概念本身可能并不清晰。AI工程师和高管在各实验室之间频繁流动早已是业内常态——苹果甚至曾因商业机密问题起诉OpenAI。
纽约大学名誉教授、AI专家加里·马库斯在近期的Substack文章中写道，在AI这样一个联系紧密的行业中，那些被委托的第三方机构完全有可能与它们所监督的AI公司存在朋友或商业伙伴关系。
网络安全与AI公司Suzu Labs高级总监雅各布·克雷尔表示："它的薄弱环节就在'独立'这个词上。协议第三层允许每家公司自行选择外部评估方，但对认证资质、评估方法、访问权限、评估范围或结果公开都没有任何规定。"
对于致力于保护客户网站免受恶意或蓄意AI智能体攻击的网络安全防御人员来说，这种透明度和文档记录至关重要。
尽管这份新协议暗示未来有望将这些AI准则转化为正式法律，但美国国会在如何监管这项技术上尚未达成共识。
代表硅谷选区的民主党众议员罗·坎纳在X平台上批评这份自愿协议："我们是一个法治国家，不是靠拍胸脯承诺的国家。"坎纳近期提出了一项新法案，旨在限制递归式自我改进技术，与此同时还有其他待审法案，例如参议员伯尼·桑德斯提出的禁止超级智能的法案。
与此同时，据多方报道，美国联邦贸易委员会已对包括Anthropic和OpenAI在内的多家主要AI实验室展开调查，以评估其AI智能体和相关技术给消费者带来的风险。
Q&A
Q1：特朗普的AI安全协议具体包含哪些内容？
A：协议提出四层控制措施，包括AI公司要在训练和部署阶段监测模型风险、组建内部安全团队、与独立外部审计方合作，以及设立董事会独立委员会监督安全报告。
Q2：这份AI协议有没有法律约束力？
A：没有。特朗普本人表示该协议是"道德约束力"而非法律强制，属于自愿性质，目前没有任何执法或监督机制来确保企业真正遵守。
Q3：专家对这份协议有什么担忧？
A：专家主要担心缺乏实施和监督机制，且"独立"审计方的概念存在漏洞，因为AI行业内人员流动频繁，审计方可能与被监管公司存在利益关联，难以保证真正独立。
