科技巨头在AI安全问题上的分歧，正在给企业IT带来实际挑战，影响组织获取、部署和管理AI系统的方式。
最新的争议焦点出现在Meta首席执行官马克·扎克伯格呼吁引入中立评估机构独立测试AI模型之后，他借此回应了竞争对手要求放缓开发或加强协调的呼声。
扎克伯格在X平台发文表示："信任与对齐正迅速成为区分智能体和模型的最重要能力。任何不重视对齐的实验室都将落后。"
他补充道："引入独立评估者和顾问是行业最佳实践"，并指出Meta在多个领域已经这样做。
他的言论紧随一系列AI行业领袖的公开提议之后，包括达里奥·阿莫代伊主张更谨慎的开发节奏，以及萨姆·奥特曼呼吁在安全标准上开展合作。
随着AI实验室和政策制定者披露先进系统可能被滥用的情况，这场辩论愈演愈烈。根据公司声明和报道，Anthropic表示已限制Claude模型在敏感领域被滥用的尝试，OpenAI则已就AI相关风险与政策制定者进行接触。
企业的担忧
虽然这场辩论常被描述为在放缓创新与加强监管之间做选择，但分析师表示，企业应更多关注已经显现的实际运营后果，而非纠结于哪种方式会占上风。
Gartner总监分析师苏绍万·穆霍帕德希亚表示："分歧的安全方式将使先进AI模型的获取变得更不可预测，而不是导致整个行业放缓。"他说，供应商可能会采用不同的发布时间表、区域可用性、访问层级和使用限制，这意味着企业可能会在"不同时间、在实质不同的条件下"接触到相似的能力。
穆霍帕德希亚表示，企业应为访问的不确定性做好规划，而不是假设各供应商或地区都能保持一致的可用性。
Kanerika首席营收官布彭德拉·乔普拉表示："我认为本周是前沿AI变成受管制供应品的转折点。三年来，CIO们一直可以假设下一个模型会如期而至。而现在，前沿模型的表现更像是来自某个供应商的关键零部件，其交付日期部分取决于外部审查者和出口规则。"
乔普拉补充道："任何建立在特定模型将于特定日期上线这一假设之上的AI路线图，都承担着尚未被计入成本的供应风险。"
无论是否放缓，安全压力依然存在
分析师表示，仅靠放缓开发不太可能实质性改变企业风险，尤其是在开源模型不断扩散的背景下。
ArmorCode创始人兼首席执行官尼基尔·古普塔表示："最重要的不是暂停本身，而是AI公司的领导者们在某件事上达成了一致。"
古普塔表示，威胁形势已经发生变化。"即使企业按下暂停键，开源AI模型也已经存在，"他说，"我不认为放缓某些公司的开发能实质性改变对手能做什么。"
古普塔补充道："即使AI开发明天就放缓，安全工作也必须加速。保护这些系统的任务实际上已经难了十倍。"
新的"AI保障"层正在形成
分析师表示，对评估的关注正在催生一个所谓的"AI保障"层，即由第三方对模型的安全性和合规性进行评估。
穆霍帕德希亚表示："一个独立的AI保障层很可能会出现，但企业不应指望单一认证就能证明某个AI系统是安全的。企业风险还取决于数据、系统指令、工具、智能体和部署控制。"
乔普拉表示，企业可能会误读此类评估。"采购团队可能看到第三方评估就认为模型已经过审查，"他说，"一年之内它就会变成走过场的一个勾选项。"
他表示，企业需要进行自己的验证。"率先行动的CIO会在模型进入生产环境之前，先用自己的数据对其进行测试。"
碎片化使多模型战略复杂化
对于采取多供应商战略的CIO而言，各供应商之间不同的方式可能会带来额外的复杂性。
乔普拉表示："碎片化本已是默认状态，安全分歧使其进一步加深。"
他说风险在过渡阶段最为突出。"对于运行多个模型的企业而言，风险集中在交接环节，"他说，"当某个模型被延迟或替换时，系统的表现可能会不同。"
乔普拉表示："我认为未经测试的模型替换风险，甚至高于供应商锁定风险。"
古普塔表示，开放架构将至关重要。"框架需要是开放的，不能被锁定在任何单一供应商上。"
穆霍帕德希亚补充道，企业应为模型变得不可用或受限做好准备。
CIO被敦促构建韧性
分析师表示，企业需要设计能够适应可用性、定价和治理变化的AI战略。
穆霍帕德希亚表示："对于关键应用，CIO应将应用控制和业务逻辑与底层模型分离。"
乔普拉强调了灵活性的重要性。"在应用程序和模型供应商之间建立一个路由层，能将切换变成配置工作，"他补充道，合同应涵盖模型弃用的时间表。
他还指出了定价方面的影响。"获取稀缺的前沿能力将开始承担溢价，"乔普拉说。
Q&A
Q1：扎克伯格为什么呼吁引入独立评估机构测试AI模型？
A：扎克伯格认为信任与对齐正成为区分智能体和模型的最重要能力，引入中立评估者是行业最佳实践，Meta在多个领域已经这样做，他借此回应了竞争对手要求放缓开发或加强协调的呼声。
Q2：AI安全分歧会给企业带来什么样的挑战？
A：分析师表示，各供应商可能采用不同的发布时间表、区域可用性、访问层级和使用限制，导致企业在不同时间、不同条件下接触到相似的AI能力，从而使获取先进模型变得更不可预测，增加多模型战略的复杂性。
Q3：企业该如何应对AI模型的不确定性和供应风险？
A：分析师建议企业将应用控制和业务逻辑与底层模型分离，建立路由层将模型切换变为配置工作，合同中应涵盖弃用时间表，并在模型进入生产环境前用自己的数据进行独立验证，而非依赖单一第三方认证。
