微软CEO萨蒂亚·纳德拉成为最新一位就如何改善AI安全性发表长篇见解的科技高管。
在周六早上发布的一条X平台帖子中，纳德拉写道，现在是时候"退一步评估AI的信任架构"了。
"我们不能把超级智能当作一组嵌套的黑盒子，简单地接受或拒绝它的建议、答案和行动，"纳德拉写道，他使用了特朗普政府偏好的"超级智能"这一术语来指代AI。
据纳德拉阐述，这种方式"意味着要将模型与协调其工作的框架分离开来"，同时"将控制和保障机制外部化"。他还呼吁，"每一个有意义的模型行动"都应被记录下来，形成"防篡改且人类可读的证据"，并建立相应系统，确保"授权人员"始终拥有"在任务执行过程中暂停或关闭模型"的能力。
"我们必须假定模型已被攻破，并从一开始就对其进行遏制，"他说。"可以把它想象成一个紧急制动装置。"
纳德拉发表这番言论之际，领先的AI公司纷纷承认出现越来越多似乎失去对模型控制的事件，而此前Anthropic公司CEO达里奥·阿莫迪也发布了一份关于更谨慎推进AI开发的计划。
Q&A
Q1：纳德拉提出的AI"紧急制动"机制具体指什么？
A：纳德拉表示，这意味着要将AI模型与协调其工作的框架分离开，将控制和保障机制外部化，记录每一个有意义的模型行动并保留防篡改证据，同时确保授权人员始终能在任务执行中暂停或关闭模型，就像给AI系统装上紧急制动装置。
Q2：为什么纳德拉认为需要重新评估AI的信任架构？
A：因为领先的AI公司越来越多地承认出现了似乎失去对模型控制的事件，纳德拉认为不能再把AI当作黑盒子简单接受或拒绝其决策，必须假定模型可能已被攻破，从一开始就加以遏制和监管。
Q3：除了纳德拉，还有哪些科技高管关注AI安全问题？
A：Anthropic公司CEO达里奥·阿莫迪也发布了一份关于更谨慎推进AI开发的计划，显示出当前科技行业高管们对AI安全性问题的普遍关注和讨论。
