Anthropic、OpenAI、微软和SpaceX的负责人上周末呼吁放缓前沿AI模型的开发速度，理由是担忧该技术能力与现有安全框架之间存在不匹配问题。
“AI带来了风险，而且由于这是一项如此强大的技术，这些风险十分严重，”Anthropic首席执行官达里奥·阿莫代伊在周末的一篇博客文章中表示。“商业激励驱动下的逐底竞争，可能会使这些风险变得更加严峻。”阿莫代伊的担忧得到了OpenAI首席执行官萨姆·奥特曼、微软首席执行官萨提亚·纳德拉以及SpaceX首席执行官埃隆·马斯克的呼应。
在文章中，阿莫代伊提出了建立安全框架的三管齐下方法，其中包括在公司内部嵌入第三方评估机构，以确保规则和政策得到遵守，事故得到妥善报告。
多年来，专家们一直警告称，有必要延迟或暂停AI模型开发，以便更好地了解该技术的风险。但在过去一周，人们对AI快速发展的担忧愈演愈烈，Anthropic前研究员雅各布·考克森辞去了工作，以此发出警示，称AI可能导致人类灭绝。
一些美国议员也纷纷跟进，受到失控AI模型绕过安全机制入侵其他在线平台的新闻刺激，呼吁制定更严格的AI规则和安全框架。
无论如何，前沿AI开发的放缓可能会对企业产生连锁反应，因为首席信息官需要将这种节奏变化纳入其AI采用计划，Gartner杰出副总裁分析师阿伦·钱德拉塞卡兰表示。
“我认为这为未来带来了更多不确定性，”钱德拉塞卡兰告诉CIO Dive。“到目前为止，首席信息官们一直假设模型生态系统会保持一定的创新节奏……而现在，这在发布速度方面带来了更多困惑。”
前沿AI实验室也在分享各自关于如何建立更完善安全框架的想法，例如嵌入第三方评估机构，以提供更多透明度，确保安全参数得到满足。这一想法在竞争对手之间获得了一致支持，也呼应了加利福尼亚州近期出台的立法。
“我们欢迎为实现对齐这一设计目标所需的研究、专注和审慎推进节奏，”纳德拉周日在一篇领英文章中表示。“我们也欢迎‘嵌入式评估机构’之类的想法，以及开发相关机制以确保这不仅仅停留在口头层面的更广泛努力。”
然而，钱德拉塞卡兰表示，评估机构的独立性仍是“一个非常开放的问题”。
“一方面，至少我们已经达成共识，认为需要采取一些行动，”钱德拉塞卡兰说。“但我认为我们还没有真正搞清楚接下来该怎么做，以及如何以真正合作和中立的方式来推进这件事。”
据Info-Tech Research Group研究员奖学金项目副总裁兼杰出分析师马克·陶谢克表示，上周末围绕AI安全的讨论重新将聚光灯投向了企业风险管理策略。陶谢克表示，这一问题远不止于自愿性声明那么简单。
“IT负责人需要独立核实的证据、合同层面的通知与退出权利、针对特定模型的部署门槛，以及在供应商的控制措施、政策或风险状况发生变化时能够停止或替换系统的经过测试的方法，”陶谢克在一封电子邮件中表示。
据陶谢克介绍，除其他预防措施外，首席信息官应致力于建立前沿模型采用门槛，让安全、隐私、法务、风险和业务负责人在全面采用系统之前对其进行彻底审查。企业还应要求供应商持续提供独立的安全保证，并在合同中加入暂停、通知和退出权利条款。
并非所有人都认同AI开发需要放缓。在监管该技术方面一直持保守态度的唐纳德·特朗普总统所在的政府，于周一发表声明，谴责前沿AI实验室的这一举动，并警告称，放缓AI开发可能会削弱美国在全球保持竞争力的努力。
Q&A
Q1：为什么Anthropic、OpenAI等公司的负责人呼吁放缓AI开发？
A：这些公司负责人认为AI技术的能力已经超出了现有安全框架的应对水平，商业竞争驱动下的逐底竞争会使风险更加严重，因此需要放缓前沿AI模型的开发速度，建立更完善的安全保障机制。
Q2：AI开发放缓会对企业的AI采用计划产生什么影响？
A：据Gartner分析师阿伦·钱德拉塞卡兰表示，这会给企业带来更多不确定性，因为首席信息官此前假设模型生态系统会保持稳定的创新节奏，如今放缓会让发布速度变得难以预测，进而影响企业的采用规划。
Q3：企业该如何应对AI安全风险？
A：据Info-Tech Research Group分析师马克·陶谢克建议，IT负责人需要获得独立核实的证据、合同层面的通知与退出权利，并建立前沿模型采用审查门槛，同时要求供应商持续提供独立安全保证，在合同中加入暂停和退出权利条款。
