关键要点:

仅靠更多算力并不能解决物理AI的瓶颈问题。处理能力必须与内存带宽、高效接口、充足电力以及散热能力相匹配。

物理AI需要根据其最终功能和应用环境来定制系统架构。

实际部署依赖于严格的验证工作,这包括覆盖边界情况、理解系统行为以及验证安全性。

打造适用于广泛应用场景的物理AI的竞赛已经展开,但构建这些由传感器驱动的系统,需要工程团队同时且持续地应对多种技术挑战。

分析师预测物理AI市场将出现显著增长,自主系统有望从根本上重塑交通运输、制造业、医疗、能源等多个行业。普华永道旗下Strategy&预测,到2030年全球物理AI市场规模可能达到约4300亿欧元,这反映了自主系统在多个行业中潜在的商业影响力。

新思科技汽车与物理AI接口IP高级总监Licinio Sousa表示:"物理AI系统正从汽车领域扩展到机器人和无人机领域,而这些应用的开发瓶颈覆盖了整个系统。AI正从数据中心扩展到边缘,驱动机器人、无人机和车辆等设备的,是对自主性、隐私性、个性化、更快响应速度以及减少对云端依赖的需求。"

专用架构

解决这些系统层面的瓶颈问题,需要针对特定应用场景优化的高度专业化硬件和软件。

Arteris执行副总裁兼首席产品与营销官,同时担任安全解决方案部门总经理的Michal Siwinski表示:"我们需要开始讨论为特定工作负载构建的优化、更加定制化的计算方案,这正是物理AI变得更有意思的地方。该工作负载需要针对硬件进行高度优化。我们基本上是在回归ASIC的传统意义——即ASIC本应具备的特性:高度针对特定应用、极致优化,而非通用化。这种趋势已经开始出现。接下来会很有意思的一点是,看软件、硬件与工作负载之间如何演化出更灵活的系统,以适应非常具体的应用场景,并持续演进,因为模型的发展速度要快得多。"

自主机器人系统与自动驾驶车辆共享部分相同的技术,尤其是在感知和控制方面,但每种物理AI应用场景都带来了独特的挑战。

美光科技汽车业务首席系统架构师Vasanthan Karunanithy在近期的JEDEC汽车论坛上表示:"机器人技术并非全新的AI技术栈。从ADAS系统的角度看,机器人继承了实时感知、路径规划和运动控制能力。从智能机柜的角度看,机器人继承了自然语言理解、情境推理和人机交互能力。在具身智能领域,更大的挑战在于让这两种工作负载协同运行,并在最后实现信息交换。这就是这两个领域的共性所在。但同时也存在差异,这体现在通道规模上。自动驾驶车辆在相对结构化的道路环境中运行,并从更大的电源——车辆电池中获取电力。但当你观察机器人时,它们在非结构化的三维环境中运行。机器人还需要维持多个自由度,必须操纵物体并保持平衡,还要理解指令中的命令。而且它要在远比汽车领域有限的电源条件下完成所有这些工作。"

这些差异在不同应用场景中差异显著。自动驾驶车辆在既有的交通基础设施内运行,但必须应对不可预测的路况。相比之下,移动机器人和人形机器人可能需要在结构化程度较低的环境中导航,协调操纵与平衡能力,并在更严格的功耗预算内运行。同时,工业机器人可能在具有固定电力供应的受控环境中运行。这些差异使得很难为每种物理AI形态优化出单一架构。

来源:新思科技

设计者必须从一开始就考虑到这些需求来构建系统架构。

Sousa表示:"随着工作负载和模型的演进,我们已经看到针对每类机器特定需求而设计的定制芯片正在出现。我们的客户持续应对先进VLA(视觉-语言-动作)模型的需求。在硬件领域,这意味着更密集的计算和AI引擎。同时,应用场景的广泛性使得单一的整体架构更难适用,这促使行业转向芯粒方案,即计算、AI、内存和I/O可以基于特定应用场景,通过UCIe接口进行扩展。"

芯粒为可扩展的物理AI平台提供了一条潜在路径,尤其是在异构计算、内存和I/O需求足以证明先进封装投入的合理性时。然而,芯粒方案也可能因定制封装、热管理和芯片间通信而大幅提升成本和复杂度。对于功耗、尺寸和成本受限的小型高集成度系统,整体式SoC可能更为合适。

这些限制同时适用于硬件和软件。西门子EDA负责EDA AI及Solido产品的负责人Sathish Balasubramanian表示:"传感器将更聚焦于具体应用场景,你需要确保拥有良好的应用场景,并进行定制化处理,同时还需要在其之上构建软件层。我常开玩笑说,现实世界中涉及的一切都是模拟的,而我们正试图将其抽象为数字形式,因此最重要的事情之一就是冗余。传感器技术已经相当成熟。我们可以在视觉、热感、压力等各个维度进行感知。在雷达等其他技术方面我们也已做得很好。更重要的是确保传感器能够在特定环境中正常运行,而这种环境需要以一种不会使性能退化的方式被捕捉,或者需要内置冗余机制。"

然而,冗余的有效性可能因组件能否独立发生故障、以及系统能否识别并响应故障而有所不同。仅仅增加传感器数量并不能保证可靠运行,尤其是在环境条件可能同时影响多个传感器的情况下。

将计算架构定制匹配到具体工作负载或应用场景,同样会带来权衡取舍。亚诺德半导体公司副总裁兼汽车业务负责人Yasmine King表示:"智能处理需要多靠近传感发生的实际源头,这是一个此消彼长的问题。如果智能分布在整个系统中,那么更新起来会更复杂。集中化处理允许通过单一节点进行空中更新,便于修补和修复,但当你需要对数据做出快速反应时,可能会产生延迟问题。在车辆中,如果有行人突然冲到车前,你需要能够极快地做出响应。因此,智能处理单元的部署位置取决于你试图获取何种感知信息,以及你需要多快做出响应。"

亚诺德半导体公司Yasmine King在2026年10月27日的路透社汽车2026大会上发言。

智能处理单元的部署位置是一项涉及计算性能之外更多因素的架构决策。它需要在响应时间、通信带宽、功耗、可更新性以及分布式组件协调之间取得平衡。集中式计算可以简化管理,而本地处理则可以减少通信延迟,并在连接中断时保留关键功能。

物理AI的内存墙

内存容量、带宽、延迟和能耗,再加上某些内存技术潜在的供应限制,成为物理AI的关键瓶颈。挑战在于设计一个能够在严格的功耗和散热限制内,满足日益苛刻的AI工作负载需求的内存子系统,而不仅仅是增加足够数量的内存组件。

Sousa表示:"数以十亿计的相关模型参数也需要在存储、内存和处理单元之间进行存储和传输。如今,这被称为内存墙。随着内存占用持续增长,DRAM需要超高速接口(如LPDDR6),才能不再成为处理过程的瓶颈。"

性能还取决于访问模式、延迟、数据复用、缓存容量、内存控制器效率以及数据传输所需的能耗。如果工作负载受到内存层级结构其他部分的制约,仅仅提升原始带宽可能带来有限的收益。

针对特定工作负载的系统设计有助于缓解部分内存压力。Balasubramanian表示:"确定合适大小的内存、合适大小的计算资源,以及冗余设计——所有需要适配热量和功耗预算的要素都至关重要。最重要的是,尺寸很关键。你不需要在普锐斯车上装一个100加仑的油箱,你只需要一个10加仑的油箱。这就是我用来形容内存问题的类比。你可以通过某种方式进行管理,使你不需要巨大的DRAM,而是拥有相当不错的缓存和内置SRAM。关键需求始终可以存储在DRAM中,但其他一切都可以在需要时转移到闪存或SRAM中。从DRAM到SRAM再到实际计算单元之间的缓存一致性内存路径,对于打造真正的物理AI至关重要。"

这些内存技术之间的权衡十分显著。片上SRAM和缓存可以为常用数据提供快速访问,但其容量受到硅片面积和成本的限制。外部DRAM提供更大容量,而闪存则为不需要保持在活跃内存中的模型、软件和其他信息提供非易失性存储。

在这些层级之间移动信息可以降低部分容量需求,但也会增加传输开销和延迟。与此同时,缓存一致性关注的是在缓存和内存之间保持数据副本的一致性,而不仅仅是在存储技术之间移动信息,但这也会带来更多开销。因此,工程师在确定每个层级应分配多少内存时,必须考虑工作集、数据局部性和访问频率。

汽车内存技术创新很可能在物理AI该问题的解决方案中占据重要地位。

Imagination Technologies产品管理高级总监Rob Fisher表示:"目前这与我们的汽车产品线密切相关,我们看到机器人领域的大部分需求直接来自汽车领域。许多汽车行业厂商现在将其芯片定位为汽车与机器人双平台,因此4位、6位和8位支持将真正有利于嵌入式边缘类应用的内存带宽和内存占用。在数据中心中这个问题的关注度较低,但其影响方式有所不同。在数据中心中,你或许可以通过使用较小的字长位宽来容纳更大的模型。而在汽车应用和机器人应用中,你可能会从另一个角度获益,即更小的内存占用。你会限制模型只执行你确切需要的功能,然后减少容纳该模型所需的内存和带宽。"

较低精度的数据表示方式可以降低模型存储和内存带宽需求,这使其对嵌入式AI特别具有吸引力。但这种收益取决于加速器是否能高效支持所选的数值格式,以及量化处理是否能保持应用所需的精度。诸如6位表示法等格式也可能引入打包或实现方面的开销,从而限制在未针对其设计的硬件上所能实现的收益。

闪存存储在管理自主系统内存方面也发挥着关键作用。

Sousa表示:"DRAM在容量、功耗和供应方面都受到制约。更快的存储带宽可以缩短加载时间,因此相同的DRAM预算可以支持更大的模型。这些系统通常依靠电池持续运行,且往往没有主动散热,因此每一次数据传输都会消耗电力并增加延迟,这就要求每个组件——机械、电子和软件——都要限制功耗并提高效率。诸如MIPI、UFS、LPDDR、PCIe等接口都内置了相应机制,以确保突发性数据的快速传输,并在传输完成后转入长时间的低功耗空闲模式。"

更快的非易失性存储可以缩短模型加载延迟,并在与适当的模型分区或权重流式处理技术配合使用时,使DRAM有限的系统能够运行总模型占用超出可用活跃内存的工作负载。然而,仅靠存储带宽本身并不能增加任意时刻能够保留在DRAM中的数据量。

用于移动这些数据的接口在功耗管理机制和运行特性方面也存在差异。它们的效率取决于具体规范、实现方式、传输模式以及进入低功耗状态的机会。

如果市场规模足够大以支撑相应投资,物理AI的内存需求最终可能促成新内存技术的出现,或是现有技术变体的开发。

Rambus研究员兼杰出发明家Steven Woo表示:"内存是一项关键技术,物理AI的各个领域都将需要用到它。这些市场的不同之处在于,其中一些领域将直接利用现有的内存产品,但也有可能某些领域的市场规模会变得足够庞大,以至于需要专门研发其自身的内存类型,或是现有内存的某种变体。我们在HBM身上就看到过这种情况——人们曾使用其他类型的内存,但市场突然变大了。再往前追溯到LPDDR出现之前,手机当时只是使用经过精心挑选分类的DDR芯片,恰好这些芯片具有低功耗特性。当市场规模足够大时,人们便会说:'好吧,那我们就专门做一款产品。'物理AI本身有潜力发展成为一个足够庞大的市场,因此,如果需求差异足够大,未来可能会出现另一种新型内存。"

这种专业化是否会实现,取决于需求的规模和一致性。与数据中心不同,物理AI涵盖的应用场景在成本、容量、耐久性、带宽、温度和能效方面有着差异巨大的需求。这种多样性可能会使某些市场倾向于对现有内存技术进行改造,而另一些市场则倾向于定制开发专用解决方案。

验证边界情况

确保系统在各种条件下(包括罕见和意外情况)都能安全运行,是另一项重大挑战。随着物理AI开发者瞄准将其集成到重型机械、医疗设备和其他安全关键型技术中,解决验证难题变得尤为重要。

西门子Balasubramanian表示:"在物理AI投入任何生产之前,我们需要让其经历的验证闭环至关重要,我认为这是我们需要做的最重要的事情。如果发生大规模断电或地震,导致你的光纤电缆被从外部切断,或者发生停电,会发生什么?你如何在边缘端管理这类场景?在传感器附近配备某种计算能力、某种内存以及某种智能处理能力将至关重要,人们实现这一目标的方式是:根据具体应用场景的需求,确定出他们认为最重要的事项。在工业环境中,我何时需要停止流水线?我何时需要知道必须打电话求助,或启动警报器,或采取其他行动?这些都是需要在特定传感器内部处理的问题。"

这些场景说明了为什么安全关键型功能不能总是依赖持续的云端连接或集中式决策。当通信或电力系统发生故障时,可能需要本地处理能力来识别故障、触发保护性动作,或将设备置于预定义的安全状态。

但验证(verification)和确认(validation)解决的是问题的不同方面。验证确定设计是否满足规定的需求,而确认则检验系统在其预期运行环境中是否表现得当。安全保证可能还需要进行危险分析、故障注入测试、评估共因故障,并提供符合适用标准的证据。

因此,系统必须被设计为能够在相关硬件和软件堆栈中建立并验证信任,且保证要求要与每个应用场景相匹配。

辅助机器人初创公司ATDev联合创始人Owen Kent表示:"当我们为轮椅设计产品时,我们有特定的需求,这与任何物理AI应用都类似。你必须能够在你的质量管理体系以及第三方电磁兼容性测试中,真正对这些硬件进行严格的考验。无论你使用的是定制硬件还是非定制硬件,你都必须能够验证其安全性。"

对开发者而言,这意味着不仅要评估组件在正常运行状态下是否正常工作,还要评估整个系统在传感器性能下降、通信故障、意外输入及其他可预见危险情况下的响应方式。在许多应用中,通过组件级测试是必要的,但这本身并不能确立系统层面的安全性。

结论

物理AI的实际限制贯穿于从感知到行动的整个路径。设计者必须将模型和硬件与具体任务相匹配,在可用的能量和热量预算范围内移动数据,并验证机器在条件或连接发生变化时的行为表现。只有当系统其他部分能够支撑时,提升计算能力才能真正发挥作用。

Balasubramanian表示:"从传感器到处理器再到执行器的整条路径上,都要采用基于标准、低功耗且经过验证的接口。它们能为设计者提供可预测的行为、生态系统互操作性,以及经过硅片验证的构建模块。"

一个相关的例子是MIPI摄像头安全框架,它结合了摄像头服务扩展(CSE)2.0规范以及配套的安全规范。CSE 2.0支持数据完整性保护,以及对CSI-2摄像头数据的可选加密,而更广泛的框架则涉及成像系统组件的身份验证以及安全会话的建立。

他表示:"该框架为摄像头数据提供端到端安全保护,涵盖从图像传感器到SoC的完整性、身份验证和机密性。它还为设计者提供了灵活的选项,以最大限度降低计算和流量开销、功耗及延迟,从而使安全保护能够与具体应用相匹配,而非按最坏情况进行设计。"

这一区别很重要,因为机密性保护是可选的,保护程度取决于所实施的安全服务和配置。更广泛的框架让开发者能够在保护力度与处理开销、功耗及延迟之间取得平衡,而不是对每个数据流都施加相同的保护措施。

让自主机器具备更强能力是不够的,它们还必须在现实世界的约束条件下保持可靠性。对于物理AI而言,那些用于节省内存、功耗和带宽的架构选择,也必须能够支撑可预测的行为表现、系统韧性,以及广泛部署所要求的安全保证。

相关文章

为什么物理AI的工程实现如此困难

将传感器、计算单元和执行器集成到自主系统中,为芯片设计带来了新的挑战。

为物理AI扩展数据传输能力

没有放之四海而皆准的单一方案。

重新定义边缘AI与云端AI的角色分工

本地化智能的竞赛已经拉开帷幕。

Semiconductor Engineering