谷歌DeepMind首席执行官德米斯·哈萨比斯近日再度呼吁推动AI行业自律，主张由美国政府主导，重点聚焦于通用人工智能（AGI）与国家安全领域。
然而，正是这一对国家安全的高度关注，使得该计划一旦落地，其结果在美国以外的地区恐怕难以获得广泛认可。
哈萨比斯写道："AI领域正在经历的快速发展，要求我们以动态、灵活且严格的方式，对前沿AI模型的能力进行全新测试。美国凭借其经济实力与技术地位，完全有能力率先构建这样一套框架。可以参照金融业监管局（FINRA）的模式，设立一个由联邦政府监管的公私合作或行业自律组织，董事会成员应包括独立的顶尖技术专家和开源社区代表。"
他同时指出，此类机构的运营需要大量资金支持，这些资金很可能主要来自行业，以便吸引世界级技术人才，并获取大规模测试所需的算力资源。
哈萨比斯建议，该机构应"负责制定评估协议，并与相关联邦机构及美国国家实验室合作，开展涉及国家安全领域的测试"。同时，鼓励AI供应商参与方采纳最佳实践，包括发布含有技术细节的模型卡片、建立健全的内部网络安全体系、对关键人员进行背景审查，以及为安全研究提供充足资源。
这并非哈萨比斯首次就AGI表达担忧。他此前已参与美国政府的一项AI安全评估计划，该计划由DeepMind、微软和xAI（现更名为SpaceXAI）与美国商务部下设的AI标准与创新中心（CAISI）合作推进，旨在开展部署前评估和专项研究，以"更好地评估前沿AI能力，推动AI安全领域的发展"。
分析师和顾问们对此看法不一，多数人对行业主导的机构能否将公众利益置于首位表示质疑。
Gartner副总裁分析师纳德·赫内因表示："行业自律不可行，因为它意味着每家公司都能自我约束，并且会以符合公众利益的方式行事。大多数科技厂商并不具备自律能力，它们只是希望在一套规则框架内运营。营利性组织的首要义务是对股东负责，而外部监管恰恰可以确保这些组织不会陷入必须在股东利益与公众利益之间做出取舍的利益冲突。"
Greyhound Research首席分析师桑奇特·维尔·戈贾则指出，鉴于AI模型的全球化属性，由美国政府主导的监管举措可能会引发其他国家的抵触。
他表示："国家安全是这一提案在华盛顿的推进器，却是其在海外的致命弱点——这种定性方式虽然打开了国内唯一可行的大门，却可能让外国政府将其解读为美国战略的工具。"
他进一步补充道："监管格局本就是多元化的。布鲁塞尔将于2026年8月起对通用模型启动执法权，伦敦设有AI安全研究所，北京则按照自身规则推行许可制度。加州和纽约已就前沿模型完成本地立法。可持续的路径是以主权执法为基础、建立共享技术证据机制，通过相互认可而非单边主导来推进，同时让印度及其他主要非西方市场真正参与规则制定，而非仅仅占有几个席位。"
戈贾还指出，即便是这样一个机构所制定的规则，也未必能回应企业IT领域的核心关切。他认为，哈萨比斯所提议的美国政府主导的测试"与情报和产业政策高度交织，这些功能很难截然分开。一个模型即便通过了所有灾难性风险测试，在隐私保护、可靠性和责任归属等方面，仍可能让企业面临失败"。
沃尔玛前网络安全总监、现独立网络安全顾问史蒂文·埃里克·费舍尔表示，他认为这一提案"出发点是好的，但它触及了一个高度两极化的议题，而当前商业利益对政治的影响力前所未有，且并非总是朝着正向发力"。
他补充道："一套缺乏全球认可与约束力的美国独家标准，很可能无法实现其核心目标，反而会使美国企业在竞争中处于不利地位。"
纽约科技咨询公司Tribeca Softtech首席战略官阿曼·马哈帕特拉表示，深入研究FINRA的实际运作方式，有助于IT领导者判断这一构想的真实走向——如果行业最终采用该模式的话。
他说："当被监管公司的CEO们同时担任标准的主要起草人时，这些标准自然会体现这些公司的利益。FINRA设有独立董事会，但实际运作中，成员企业的立场主导着制定规则的工作小组。没有理由认为AI领域的等效机构会有所不同，而且一切迹象都表明情况会更糟——因为AI标准化的推进速度，远超任何行业曾尝试过的自我规范速度，而速度恰恰是独立监督最大的敌人。"
独立技术分析师卡米·利维对哈萨比斯的提案持更为强烈的反对态度。
他表示："要求大型科技公司自我监管，无异于让狐狸看守鸡舍。迄今为止这从未奏效，未来也不会。指望这些组织在这个时间节点上改弦更张，是极度天真的想法。德米斯·哈萨比斯提出的框架，不过是一个为行业服务的路线图，服务于那些不计代价、一心冲向AI终点的企业。一旦自我监管框架成为常态，其对社会造成的危害将难以估量。"
与此形成鲜明对比的是，咨询公司Acceligence的首席信息官尤里·戈里乌诺夫对这一提案表示欢迎。
他说："这是行业自律真正有机会奏效的少数场景之一，企业IT界应该积极支持。自律失败，往往是因为危害被外部化——比如社交媒体内容审核，或者监管方将判断权外包给被监管方——就像美国联邦航空管理局在737 MAX事故前将监管职责下放给波音那样。而当行业内所有人都共同承担灾难性后果时，自律就能发挥作用。"
他建议，更好的参照对象不是FINRA，而是核电运营研究所（INPO）。该机构由核电行业在1979年三里岛核电站部分堆芯熔毁事故发生后数月内创立，其逻辑是"任何地方的事故都是所有人的事故"。INPO对美国每座核电站进行同行评审，其评估结果影响保险费率，并在核管理委员会的法定监管框架之上发挥作用。"这正是哈萨比斯所描述的公私协同模式。前沿AI领域具有同样的逻辑结构：任何一家实验室的灾难性失败，都会引发对整个行业的监管冲击。"
戈里乌诺夫表示，对于企业首席信息官和其他IT高管而言，这一模式有望带来重大利好。
他说："如今，每家企业都在各自为战，重复开展同样的AI尽职调查——红队测试、评估套件、治理委员会，而且掌握的信息还远不如任何认证机构充分。一套可信的标准体系，能够为AI领域做到UL认证对电气设备、SOC2对云服务所做的事：将不可预知的风险转化为可采购的产品，为董事会提供可辩护的尽责标准。这不是繁文缛节，而是有据可查的安心保障。"
然而，马哈帕特拉也指出："另一种观点认为，行业主导标准的替代方案，很可能不是深思熟虑的立法，而是没有标准，或各州各行其是，或延续现有模式——监管机构在伤害已经发生多年后才介入追责。"
因此，他认为，"哈萨比斯的论点有其合理之处：不完美的快速标准，好过完美的缓慢标准。对于智能体身份、评估方法论、互操作性等议题而言，这一观点确实具有实质性意义。"
Q&A
Q1：哈萨比斯提议建立的AI标准机构是什么样的？
A：哈萨比斯提议参照金融业监管局（FINRA）的模式，建立一个由联邦政府监管的公私合作或行业自律组织，董事会由独立技术专家和开源社区代表组成，主要负责制定AI评估协议，并与联邦机构及国家实验室合作，开展涉及国家安全领域的前沿AI模型测试，资金来源主要依赖行业。
Q2：为什么分析师对AI行业自律持怀疑态度？
A：多数分析师认为，行业自律难以将公众利益置于商业利益之上。营利性组织首要义务是对股东负责，而当被监管企业的高管同时参与标准制定时，规则很容易向企业利益倾斜。此外，AI标准化推进速度过快，独立监督难以跟上，且美国主导的框架可能在国际上缺乏认可度与约束力。
Q3：支持者认为这一AI自律提案为什么有可能成功？
A：支持者以核电运营研究所（INPO）为例，认为当行业内所有参与方共同承担灾难性后果时，自律机制就能有效运作。一套可信的AI标准体系，可以将不可知的风险转化为可评估、可采购的产品，减少企业重复开展AI尽职调查的负担，并为董事会提供可辩护的安全标准。
