新一代自主AI系统，包括无人机、自动驾驶车辆和人形机器人，已经具备感知世界、做出决策并付诸行动的能力。
这正在消解软件风险与物理风险之间、网络安全与安全保障之间的传统边界。
网络安全领域与物理自主AI领域正在融合，因此为这项技术构建正确的治理基础至关重要。
在人工智能（AI）发展的大部分历史中，它一直存在于屏幕之内。它进行推荐、预测、翻译和生成内容。它的错误代价高昂，有时甚至很严重，但大体上仍局限于数字领域。
这种状况正在改变。
新一代系统正将AI带入物理世界。除了处理信息，它们还能感知环境、做出决策并在现实世界中采取行动。
人形机器人、自动驾驶汽车和无人机是目前正从试点走向规模化部署的三个典型案例。随着这一进程推进，曾经清晰的边界——软件风险与物理风险之间、网络安全与安全保障之间的界限——正在消失。
对于物理自主AI而言，决定性的转变在于感知、决策与执行的融合——所谓执行，是指AI模型的数字决策或信号被转化为物理或数字层面的行动。这使得自主性具有社会价值。但这也意味着，错误、攻击或设定不当的目标可能在人类有时间察觉、理解并干预之前，就已蔓延至物理世界。
因此，随着网络安全领域与物理自主AI领域的融合，是时候为治理这一新型系统建立正确的基础了。
具身智能：人形机器人的应用
人形机器人已不再是科幻场景。能够在非结构化环境中执行物理任务的系统——拾取、组装、搬运、导航——正进入物流仓库、工厂车间，并在早期试点中进入护理场所。
在宝马集团斯帕坦堡工厂，Figure 02人形机器人已在真实生产环境中进行测试，执行涉及钣金零件的高强度体力作业。当具身智能以这种方式从演示阶段进入实际运营试验阶段，其价值不仅取决于智能程度，更取决于自主系统能否在物理工作环境中安全、可靠且负责任地运行。
然而，随着人形机器人能力的提升，其影响也日益重大。能够搬运病人或操作机械的机器人，带来了超出软件漏洞或缺陷范畴的全新安全风险类别。
在人形机器人从受控环境走向大规模应用之前，政府和企业需要更清晰的测试、认证和问责框架。
自动驾驶汽车：真实部署带来新的依赖关系
在这一新型AI系统中，自动驾驶道路交通是商业化进展最快的领域。无人出租车服务已在多个城市投入运营，自动驾驶卡车也已在部分高速公路上进行测试。短期内潜在的价值包括特定路线类型下安全记录的改善、长途货运成本的降低以及运营时长的延长。
Waymo是这一领域从试验走向服务的最清晰案例之一。其无人驾驶叫车服务已从在凤凰城和旧金山与Uber合作的早期部署，扩展到美国多个市场。
但大规模部署也带来了此前不存在的依赖关系。自动驾驶汽车依赖持续的网络连接、高精度地图、远程监控基础设施以及空中软件更新——每一项都可能成为故障或干扰的潜在节点。此外，在自动驾驶车辆与人类驾驶车辆共用道路的混合交通环境中，协调风险也仍未得到充分理解。
具备韧性和安全性的AI基础设施，对于应对此类状况至关重要。
无人机：快速扩张与治理滞后
无人驾驶航空系统（无人机）已经在配送、农业、巡检和应急服务等领域实现规模化运营。在冲突地区和边境地带，军用和商用无人机已经证明，空域——曾经是受到严格管制的环境——如今已能被范围更广的主体所使用，其中也包括非国家行为体。
同时也存在积极的民用案例。在卢旺达，基于无人机的血液制品配送相比预估的公路运输大幅缩短了配送时间，并减少了医疗机构中产品过期的情况。
这方面的治理挑战十分突出。现有的空域管理框架并非为大量自主主体同时运行而设计。而那些能够实现精准农业的技术，同样也可能被用于监控或targeted干扰。对无人机系统的干扰、欺骗和劫持，已从理论层面的担忧变成了有据可查的实际事件。
安全保障与网络安全不再是两回事
这三类应用场景的发展速度不同，涉及的行业、监管机构和风险特征也各不相同。但它们共同提出了一系列问题，而这些问题无论是网络安全界还是自主AI系统界，都无法单独给出答案。
一旦AI系统能够在物理世界中行动，网络攻击就可能直接转化为实际的物理伤害——被入侵的车辆、被操纵的无人机、超出安全区域运行的机器人。
安全保障与网络安全必须被纳入自主AI系统的设计、标准、采购和治理之中。
在规模化部署自主AI之前应思考的问题
企业领导者首先需要思考的问题是，自主性的边界是否被界定得足够清晰。对于物理自主系统而言，安全不仅意味着各组件按设计运行，也意味着清楚系统在哪些情况下并非设计用于运行。
第二，当系统变得更加自主时，人类的责任应落在何处？在物理AI领域，仅仅宣称有人类"参与决策环节"是不够的。领导者需要追问：当自主系统达到其能力极限时，这名人类是否拥有足够的时间、信息、权限和技能进行干预。
第三，在对抗性条件下的安全保障方案是什么？安全保证不能仅基于正常运行情况，还必须涵盖自主AI系统在遭受攻击、陷入混乱或失去连接时如何失效、恢复和报告的机制。
回答这些问题，应有助于领导者为自主AI的规模化部署制定切实可行的治理准则。
当下应采取的行动
这些技术能够带来的价值是真实存在的，推动其部署的竞争压力也不会消失。相应的准备工作必须跟上部署的步伐。
对政府而言，这意味着需要更新那些为"车辆有驾驶员、空域中自主主体有限、物理系统未联网"的旧世界而设计的监管框架。
对企业而言，这意味着要将网络安全视为任何能够在物理世界中行动的系统的核心工程要求，而非在最后才附加的合规环节。
对国际机构而言，这意味着需要在目前各自平行运作的安全监管机构、网络安全管理部门和标准制定机构之间，搭建起联结的纽带。
自主AI系统已经进入物理世界。在这些系统深度嵌入关键基础设施和日常生活之前，我们必须先把相关条件建设妥当。
Q&A
Q1：物理自主AI系统具体指哪些技术？
A：主要指人形机器人、自动驾驶车辆和无人机这三类系统，它们能够感知环境、做出决策并在现实物理世界中采取行动，目前正从试点阶段走向规模化部署。
Q2：为什么说网络安全和物理安全现在必须一起考虑？
A：因为一旦AI系统能在物理世界中行动，网络攻击就可能直接转化为实际的物理伤害，比如被入侵的车辆、被操纵的无人机，所以安全保障和网络安全必须在设计阶段就一并纳入考量。
Q3：企业在大规模部署自主AI前应该注意什么？
A：需要思考三个问题：自主性边界是否清晰、人类是否真正有能力在必要时进行干预、以及系统在遭受攻击或失去连接时的应对和恢复机制是否完备。
