物理AI正快速从研究阶段迈向大规模部署。据ABI Research预测，到2035年，L3-L5级自动驾驶汽车的装机量将达到4900万台；而Omdia估计，2026年至2035年间将部署约6000万台工业机器人。随着这些机器人和自动驾驶设备进入道路、工厂、仓库等与人类共享的环境，安全保障必须与之同步扩展。
物理AI安全意味着要证明由AI驱动的机器——自动驾驶汽车、人形机器人、工业机器人等——在其决策转化为物理动作时能够保持安全。这需要在硬件、软件、AI、运行环境及部署全生命周期中全面落实安全保障，而不是部署前的一次性检查。
为什么安全是物理AI规模化的关键
经过多年测试和基准评估，自动驾驶汽车持续扩大商业化应用。这一进展要求开发者证明自动化系统如何应对潜在的硬件与软件故障、预期功能的局限性以及AI特有的风险。
随着自主机器进入工厂、仓库等与人类共享的环境，机器人领域正接近类似的转折点。
在整个物理AI领域，制造商、监管机构、保险公司和工作场所安全团队都需要证据，证明硬件、软件、AI行为和运行环境能够在没有人工干预的情况下协同安全运作。
为什么物理AI需要新的安全模型
四大转变定义了新的安全标准：
动态环境需要具备情境感知能力的安全保障。道路、工厂和仓库无法通过静态区域或物理屏障完全控制。自主系统必须感知不断变化的条件，调整自身行为，并在出现意外情况时进入安全状态。
AI行为需要独立的保障机制。测试必须将AI软件与传统功能安全一并评估，采用设计阶段、运行阶段和验证阶段的防护措施。ISO/IEC TS 22440等新兴标准正开始应对这些AI特有的风险。
部署是一个持续过程。自动驾驶汽车和机器人会通过软件与模型更新、新任务以及运行条件的变化而不断演进。重大变更可能需要额外的安全测试。
规模化验证需要仿真与合成数据。潜在场景的数量和复杂程度要求将真实世界测试与仿真、合成数据生成及场景重建相结合。
综合来看，这些转变要求将安全保障贯穿于设计、部署和验证的全过程，从底层硬件延伸到AI行为和运行环境。
英伟达为物理AI构建了怎样的安全基础
物理AI安全需要专业的工程、数据、流程和验证能力，这是少数公司才能具备的。英伟达的安全基础建立在超过十年的自动驾驶安全开发经验之上，涵盖功能安全、传感器融合、AI行为保障、视觉AI、仿真以及真实世界验证等专业能力。
NVIDIA Halos是首个也是唯一一个面向物理AI的全栈安全系统，帮助开发者在设计、验证和部署的每一层构建安全保障。其核心原则在自动驾驶汽车和机器人领域是共通的，而具体的平台、标准和证据则因领域而异。
在自动驾驶汽车开发方面，Halos涵盖以下内容：
硬件层面：NVIDIA DRIVE AGX Thor提供经过安全工程设计的加速计算能力，NVIDIA Hyperion则为L4级自动驾驶汽车提供全栈车辆平台和参考架构。
操作系统与中间件层面：Halos OS基于通过ASIL-D认证的DriveOS构建统一软件基础。Halos Core和Halos Middleware支持系统隔离、监控和确定性通信。
端到端模型层面：NVIDIA Alpamayo提供开放的推理型视觉语言动作模型，为长尾场景带来可解释性。
仿真与验证层面：NVIDIA Halos安全评估框架提供工具和指南，用于生成支持不同自动化等级下自动驾驶安全论证所需的证据。
这些要素共同将基于云端的AI开发和仿真与车载部署连接起来，使安全证据能够在车辆整个生命周期内保持可追溯性。
在机器人领域，Halos涵盖以下内容：
硬件层面：NVIDIA IGX Thor是一款工业级模块，将加速计算与功能安全整合在同一平台上，并配备专用的功能安全岛。该模块设计支持符合IEC 61508和ISO 13849等标准开发的系统。
软件层面：Halos Core for IGX为安全相关的运行功能提供软件基础，包括故障检测、监控与报告，以及连接传感器、执行器和其他安全组件所需的通信与处理能力。
实时感知层面：NVIDIA Holoscan Sensor Bridge将传感器数据与AI及安全相关处理连接起来，帮助系统识别无效信息并执行既定的安全响应。
仿真与验证层面：NVIDIA Isaac Lab和NVIDIA Omniverse库使开发者能够在相关条件和边缘情况下测试机器人行为，作为真实世界验证的补充。
外部视角安全层面：开源的NVIDIA Halos外部视角安全蓝图利用外部摄像头和视觉AI智能体，将感知能力扩展到车载传感器之外，支持设施级监控和功能安全应用场景。
在自动驾驶汽车和机器人两大领域，NVIDIA Halos AI系统检测实验室将安全、网络安全和AI安全要求转化为可重复执行的检测流程，帮助Halos的集成方案为第三方机构的最终系统级认证做好准备。
哪些企业正在使用NVIDIA Halos安全生态系统进行开发
NVIDIA Halos将从事物理AI解决方案构建、集成、评估和部署的企业联系在一起，包括产品开发商、软件与嵌入式系统供应商、传感器与芯片企业、安全解决方案开发商以及认证机构。
在自动驾驶汽车领域，吉利、五十铃、日产（采用Wayve软件）和Einride正基于NVIDIA Hyperion平台并在Halos OS的支持下打造L4级自动驾驶汽车。
Uber、Grab、Lyft等出行服务提供商也在使用Hyperion平台来扩展robotaxi的开发与部署。NVIDIA Halos AI系统检测实验室的成员包括AUMOVIO、博世、Gatik、禾赛科技、Lucid、MIRA、安森美、PlusAI、索尼、法雷奥和Wayve，业务范围涵盖自动驾驶开发、高级驾驶辅助系统、传感器、芯片、系统集成、验证和安全保障等领域。
在机器人领域，acontis和QNX提供用于可预测运行安全功能所需的嵌入式软件，Advantech和NexCOBOT则打造安全设计的NVIDIA IGX系统。英飞凌、恩智浦、意法半导体和德州仪器提供传感器、安全微控制器等半导体技术。凯傲集团正在为自主叉车开发功能安全智能体。Agility正在将NVIDIA IGX Thor和Halos Core集成到其Digit 5人形机器人的安全系统中。
NVIDIA Halos如何接受独立评估
在自动驾驶汽车方面，TUV SUD已认证英伟达的汽车产品生命周期软件流程和DriveOS 6.0符合ISO 26262 ASIL D标准，同时认证英伟达的汽车工程流程符合ISO/SAE 21434标准。TUV Rheinland还对NVIDIA DRIVE AV进行了独立的UNECE安全评估。
在机器人方面，TUV Rheinland正在对NVIDIA IGX Thor、Halos OS和Holoscan Sensor Bridge进行功能安全认证准备情况的检测，这一工作建立在TUV SUD此前对Thor SoC和Halos Core进行ISO 26262检测的基础之上。
在整个物理AI领域，ANAB已认证NVIDIA Halos AI系统检测实验室为符合ISO/IEC 17020标准的检测机构。该实验室对特定范围内的Halos集成方案进行检测，帮助企业为独立第三方机构的最终认证做好准备。
能够实现物理AI规模化的企业，不仅仅是打造出能力最强的系统，更要打造出能够被评估、认证、部署并在现实世界中获得信任的系统。从一开始就设计好功能安全，正是区分原型产品与可规模化解决方案的关键所在。
如需了解更多关于NVIDIA Halos在自动驾驶汽车和机器人领域的应用，可进一步探索面向物理AI的全栈安全架构。
Q&A
Q1：NVIDIA Halos是什么？
A：NVIDIA Halos是首个也是唯一一个面向物理AI的全栈安全系统，帮助开发者在设计、验证和部署的每一层构建安全保障，覆盖自动驾驶汽车和机器人领域。
Q2：物理AI为什么需要新的安全模型？
A：因为动态环境需要情境感知安全、AI行为需要独立保障机制、部署是持续过程、规模化验证需要仿真与合成数据，这四大转变要求安全贯穿设计、部署和验证全过程。
Q3：哪些公司正在使用NVIDIA Halos安全生态系统？
A：在自动驾驶汽车领域，吉利、五十铃、日产、Uber、Lyft等企业正在使用；在机器人领域，凯傲集团、Agility、博世等企业也在采用该生态系统。
