微软首席执行官萨提亚·纳德拉在社交平台X上发布长文，阐述了他对高度先进AI模型所带来风险的看法，以及应如何应对这些风险。纳德拉表示，我们不能再接受一个将AI视为"多层嵌套黑箱"的世界——在这种模式下，我们只能被动接受或拒绝AI给出的建议和采取的行动。他呼吁构建一个更加透明的系统，使AI模型能够被有效控制、持续监测，并留下"防篡改的人类可读证据"。
纳德拉提出的许多建议与业界其他人士的观点相呼应，包括及时披露事故、进行独立审计、确保数据可验证以及实施风险控制。在风险控制这一点上，他的立场似乎比业内其他一些人更为激进，他写道：
"我们必须假设某个模型已经被攻破，并从一开始就对其进行控制。可以把这理解为一个'紧急制动装置'。获得授权的人员应始终能够在任务执行过程中暂停或关闭某个模型。更先进的模型将需要更先进的控制技术，而我们需要为此制定统一标准。"
不过，纳德拉在整篇文章中也多次将AI称为"超级智能"。
Q&A
Q1：萨提亚·纳德拉对AI风险提出了什么建议？
A：纳德拉建议建立更透明的AI系统，包括及时披露事故、进行独立审计、确保数据可验证，以及对AI模型实施有效控制，使其留下防篡改的人类可读证据。
Q2：为什么纳德拉说应该假设AI模型已被攻破？
A：纳德拉认为我们不能再把AI当作无法理解的黑箱来对待，必须从设计之初就假设模型存在被攻破的风险，并建立相应的控制机制，确保授权人员能随时暂停或关闭运行中的AI模型。
Q3：什么是AI的"紧急制动装置"？
A：这是纳德拉提出的一个概念，指的是一种控制机制，使获得授权的人员能够在AI模型执行任务的过程中随时暂停或关闭该模型，类似于紧急情况下的刹车装置。
The Verge
