加州州长加文·纽森（民主党）正在推动加州在人工智能监管方面走在前列，包括可能要求前沿模型配备"一键关闭"（kill switch）机制。他于上周五签发了一项新的行政命令。
纽森的这项命令要求加州组建一个专家小组，将在两个月内提出建议，说明如何在州法律层面加强人工智能安全措施。纽森希望该小组考虑以下几个方向：是否可以要求AI公司在现场设立独立核查团队进行定期审计；使这些公司的透明度报告和风险评估接受独立审计机构标准的约束；建立一套经常验证有效性的"一键关闭"机制；并要求企业将类似OpenAI遭遇的Hugging Face攻击事件这样的"失控事件"作为重大安全事故进行上报。该命令还要求州相关机构加快落实此前已签署的两项法律，分别用于建立独立核查方评估AI安全的框架，以及建立州级AI审计人员登记制度。
此前，前Anthropic研究员雅各布·考克森发文警告称，人工智能在十年内"可能导致全人类灭亡"的概率超过10%，此番言论引发国会内部一轮密集的立法讨论。但由于众议院休会至11月，加上即将到来的中期选举使参议院在重大立法上的推进同样困难重重，外界对华盛顿短期内能通过实质性法案并不抱太大希望。与此同时，美国总统唐纳德·特朗普坚持认为："人工智能唯一需要的'控制'或'护栏'，就是一位强大而聪明（高智商！）的总统，而美国恰恰拥有这样一位总统！"
纽森呼吁国会和特朗普"审视并采纳加州的框架"
纽森的这项行政命令很可能不是加州在这一议题上最后的动作。周三，他在接受Politico采访时提出，可能会召集加州议员就人工智能问题召开特别立法会议，同时不排除采取更多行政行动的可能性。他明确将这项命令定位为联邦层面行动的范本，呼吁国会和特朗普"审视并采纳加州的这套框架，或者至少将这项全国领先的监管标准作为底线而非上限，以造福并保障全体美国人的安全"。
纽森在一份声明中表示："联邦政府在建立任何形式的有意义的人工智能监督或问责机制方面彻底失败，这应该引起每一个美国人的警觉，尤其是当AI公司的首席执行官们自己都在恳求加强监管的时候。我们不会坐等观望——我们将在为时已晚之前加快推进实质性且负责任的人工智能监督工作。我们会审慎地推进这项工作，但同时保持紧迫的行动速度；风险太高，容不得我们拖延或延误行动。"
Q&A
Q1：加州的AI"一键关闭"机制具体是什么意思？
A：这是纽森行政命令中提出的一项设想，要求前沿AI模型配备一套经常验证有效性的紧急关闭机制，以便在出现失控风险时能够及时停止系统运行。
Q2：为什么加州要自己推动AI监管，而不是等联邦政府立法？
A：由于众议院休会至11月，加上中期选举临近使参议院难以推进重大立法，华盛顿短期内难以通过实质性AI监管法案，纽森因此希望加州率先行动，为联邦层面提供监管范本。
Q3：这次行政命令对AI公司会有哪些具体要求？
A：命令要求专家小组研究是否应让AI公司在现场设立独立核查团队定期审计，接受独立审计标准约束，建立"一键关闭"机制，并将失控事件作为重大安全事故上报。
