OpenAI和Anthropic都认同前沿AI系统需要更严格的监管，但在如何停止具有严重风险的模型这一问题上，两家公司提出了截然不同的方案：Anthropic主张赋予法院权力暂停危险系统，而OpenAI则主张要求开发者维持并使用有效的关闭控制机制。
这两份提案分别出现在两家公司提交给加州州长加文·纽森的独立意见书中，此前纽森于9月18日发布行政命令，要求州官员考虑为前沿AI系统制定额外的安全保障措施。两家公司均支持进行独立安全评估，并扩大对AI系统超出预期权限行事事件的报告范围。
“如果司法部长在参考独立评估结果后认定某前沿AI公司的模型存在近期发生灾难性危害的风险，他们应有权申请法院命令，暂停该模型的部署、内部使用或进一步开发，”Anthropic在其10月15日提交的意见书中写道。
OpenAI在其10月20日的信函中，呼吁对加州参议院第53号法案（SB 53）进行修订。
“我们支持修订SB 53，要求前沿开发者维持有效的关闭控制机制，并在出现不安全状况、且没有更轻微的干预措施足以应对风险时，承担使用这些控制机制的强制性义务，”OpenAI写道。
Greyhound Research首席分析师桑奇特·维尔·戈吉亚表示，这两种方案针对的是互补性的需求。“运营方必须及时遏制不安全的活动。而独立审查则必须同时审查干预行为本身以及未采取行动的情况，”他说。
纽森的行政命令（编号N-9-26）指示加州政府运营署在与州长应急服务办公室及国家级专家协商后，于11月16日前提交关于现行AI安全法律可能修订方案的建议。该命令要求官员审查AI实验室内部的独立验证机制、安全评估的独立核查、经验证的关闭机制，以及扩大对关键安全事件的报告范围。该命令本身并未强制实施这些拟议要求。
独立验证
Anthropic希望评估机构能够对开发者的安全声明进行评估，并公开发布自己的调查结果。
“我们强烈支持要求对前沿AI公司所报告的模型风险、以及这些风险是否得到充分缓解进行独立验证，”该公司写道。
Anthropic提议要求开发者至少每六个月发布一次风险报告，内容应涵盖其模型存在的严重风险，包括内部使用的、风险远高于已发布系统的模型。评估机构应能获得未经编辑的完整报告，以及接触开发者最强大模型和相关内部信息的权限。
Anthropic还提议，开发者应向一个由州政府管理的共同基金缴纳资金，用以资助评估机构，而非直接向评估机构付费。该公司表示，独立评估机构METR的一个团队已以试点方式获得了类似员工的访问权限，与SecureBio和埃森哲的进一步合作也正在推进中。
OpenAI在其信函中表示，支持独立技术评估，但将其与合规审计区分开来。技术评估将审查开发者安全声明背后的证据以及安全保障措施的有效性；而合规审计则将检查公司是否遵循其已发布的安全框架及法律义务，该公司补充道。
OpenAI建议每年进行一次独立合规审计，并针对模型训练、评估和内部部署过程中出现的严重风险进行专项技术评估。该公司还敦促加州与美国国家标准与技术研究院合作，制定通用的评估标准。
戈吉亚表示，监管需要的不仅仅是资金支持。“可信的保障机制必须能在出现不利结论的情况下依然有效运转，”他说。
不止于单一开关
OpenAI认为，单一的“紧急开关”无法应对AI系统运行和部署方式的多样性。
“我们建议使用‘关闭控制机制’这一术语，因为停止AI运行在必要时需要开发多种控制手段，并由不同主体协调采取行动，而不是依靠单一的开关，”该公司在信函中写道。
干预措施可能包括停止一次训练运行、隔离某个AI智能体、撤销工具或网络访问权限，或暂停某项服务。OpenAI表示，相关责任应根据各方所掌控的运营环节，延伸至推理服务提供商和下游部署方。该公司还指出，对于在外部系统上独立运行的开源权重模型副本，开发者无法可靠地将其关闭。
Anthropic同样主张采取更具针对性的安全保障措施。“我们认为，更贴切的比喻是，前沿AI公司需要构建的是一种‘断路器’机制，”该公司写道，主张构建能够在智能体、客户、部署环境或模型层面遏制问题的控制手段。
戈吉亚表示，对于企业而言，合同中规定的关闭责任应与各方实际掌握的控制权限相匹配。协议应明确干预权限、事件报告方面的协作义务，以及谁有权授权系统重启。
“每一项被分配的职责都需要对应一个可执行的控制手段，”他说，并补充道，企业信息官应测试实际的恢复流程，而不要想当然地认为切换到替代模型就能保证运行安全。两家公司还呼吁扩大对模型规避安全保障措施或采取未授权行动等事件的报告范围。
