在如何保障日益强大的AI模型安全性这一问题上，领先AI公司之间的分歧正在扩大，这种分歧已开始转化为企业IT层面的实际挑战，并影响到组织获取、部署和治理AI系统的方式。
最新的争议焦点出现在Meta首席执行官马克·扎克伯格呼吁引入中立评估机构独立测试AI模型之后，他此举是对竞争对手要求放缓开发或加强协调的回应。
"信任与对齐正迅速成为区分智能体和模型的最重要能力。任何不专注于对齐的实验室都将落后，"扎克伯格在X平台的一篇帖子中写道。
"引入独立评估者和顾问是行业最佳实践，"他补充说，并指出Meta已在多个领域这样做。
他的言论紧随AI行业领袖一系列公开提议之后，其中包括达里奥·阿莫代伊主张以更谨慎的节奏进行开发，以及萨姆·奥特曼呼吁在安全标准上开展合作。
随着AI实验室和政策制定者披露先进系统潜在滥用风险的信息，这场辩论进一步升级。据公司声明和报道，Anthropic表示已限制在敏感领域使用其Claude模型的尝试，而OpenAI则已就AI相关风险与政策制定者展开接触。
尽管这场辩论常被描述为在放缓创新与加强监管之间做出选择，但分析人士表示，企业应更少关注哪种方式将占上风，而应更多关注已经显现的实际运营后果。
Gartner总监分析师苏肖万·穆霍帕德亚伊表示："不同的安全方式将使获取先进AI模型变得更难预测，而非导致整个行业放缓。"他说，供应商可能会采用不同的发布时间表、区域可用性、访问层级和使用限制，这意味着企业可能会在"不同时间、以本质上不同的条件"获得类似能力。
穆霍帕德亚伊表示，企业应为访问的不确定性做好规划，而不是假设跨供应商或跨地区的可用性是一致的。
Kanerika首席营收官布彭德拉·乔普拉表示："我认为本周标志着前沿AI变成了一种受管控的供给。三年来，首席信息官们都可以假设下一代模型会自然而然地出现。现在，前沿模型的行为更像是来自某个供应商的关键组件，其交付日期部分取决于外部审查者和出口规则。"
乔普拉补充说："任何建立在某个模型将于特定日期到来这一假设之上的AI路线图，都承担着尚未被计入成本的供应风险。"
分析人士表示，单纯放缓开发速度不太可能实质性改变企业面临的风险，尤其是在开源模型不断扩散的背景下。
ArmorCode创始人兼首席执行官尼基尔·古普塔表示："最重要的点不在于暂停本身，而在于AI公司的领导者们正在就某件事达成一致。"
古普塔表示，威胁格局已经发生了变化。"即使公司选择暂停，开源AI模型也已经存在于市场中，"他说。"我并不认为放缓部分公司的开发进度会实质性改变对手能做什么。"
"即使AI开发明天就放缓，安全工作也必须加速，"古普塔补充道。"确保这些系统安全的工作难度实际上已经增加了十倍。"
对评估的关注正在推动分析人士所称的新兴"AI保障"层的出现，第三方将在其中对模型的安全性和合规性进行评估。
穆霍帕德亚伊表示："一个独立的AI保障层很可能会出现，但企业不应指望单一认证就能证明某个AI系统是安全的。企业风险还取决于数据、系统指令、工具、智能体和部署控制。"
乔普拉表示，企业可能会误读这类评估。"采购团队可能看到第三方评估结果，就认为该模型已经过审查，"他说。"一年之内，这就会变成一个走过场的勾选项。"
他表示，相反，企业将需要进行自己的验证。"走在前面的首席信息官会在每个模型投入生产环境之前，用自己的数据对其进行测试。"
对于采取多供应商策略的首席信息官而言，各供应商之间方式的差异可能会带来额外的复杂性。
乔普拉表示："碎片化本就是默认状态，安全方式上的分歧使其进一步加深。"
他表示，风险在过渡阶段最为突出。"对于运行多个模型的企业而言，风险敞口就存在于交接环节，"他说。"当某个模型被延迟或替换时，系统的表现可能会不同。"
乔普拉说："我认为未经测试的模型替换比供应商锁定风险更高。"
古普塔表示，开放架构将变得十分重要。"这个框架需要是开放的，不能被锁定在任何单一供应商身上，"他说。
穆霍帕德亚伊补充说，企业应为模型变得不可用或受限做好准备。
分析人士表示，企业需要设计能够适应可用性、定价和治理变化的AI战略。
穆霍帕德亚伊表示："对于关键应用而言，首席信息官应将应用控制和业务逻辑与底层模型分离。"
乔普拉强调了灵活性的重要性。"在应用程序和模型供应商之间设置一个路由层，能把切换工作变成配置工作，"他说，并补充道合同应涵盖模型弃用的时间表。
他还指出了定价方面的影响。"获取前沿模型的稀缺访问权限开始附带溢价，"乔普拉表示。
Q&A
Q1：为什么科技巨头在AI安全问题上出现分歧？
A：Meta首席执行官扎克伯格呼吁引入中立评估机构独立测试AI模型，反对竞争对手提出的放缓开发或加强协调的主张，这与达里奥·阿莫代伊主张谨慎开发、萨姆·奥特曼呼吁安全标准合作的观点形成对比，反映出行业对如何保障AI安全存在不同看法。
Q2：AI安全分歧会给企业带来哪些实际影响？
A：企业获取先进AI模型将变得更难预测，不同供应商可能采用不同的发布时间表、区域可用性和访问限制。分析师建议企业应将应用控制与底层模型分离，并建立路由层以应对模型切换，避免过度依赖单一模型或供应商。
Q3：企业应如何应对AI供应商之间的差异化风险？
A：专家建议企业不要假设模型能持续稳定获取，应自行对每个模型进行数据验证测试，而非仅依赖第三方评估结果。同时，采用开放架构、设置路由层、在合同中明确模型弃用时间表，可以帮助企业更灵活地应对供应变化。
