高通正押注于一种理念:更智能的本地AI,始于将更多算力、内存和AI处理能力留在手机端。
高通在今年新一代高端骁龙移动平台的发布上采取了一种不同寻常的方式。公司没有把所有内容都留到本月晚些时候在毛伊岛举行的年度骁龙峰会上公布,而是在过去几周内有条不紊地披露了即将驱动下一代Android旗舰手机的架构细节。
首先,公司披露了全新的Oryon CPU架构,随后是对Adreno GPU的重大升级。今天,高通详细介绍了将作为该平台主要AI引擎的下一代Hexagon NPU。
综合这些披露内容,即便我们尚不知道这款芯片的正式名称,也已经能大致勾勒出高通的发展方向。
这里显然有一个强劲的性能故事,以5GHz的CPU为核心支撑,但贯穿整个架构更值得关注的主题是内存局部性和专用AI加速。高通正试图让更多数据靠近需要它们的算力资源,同时将AI工作负载分布到CPU、GPU和NPU上。
这些架构变化之所以重要,是因为公司正持续推动端侧AI从相对简单的生成式功能,迈向更具持续性、更具智能体特征的工作负载。
Oryon达到5GHz,FlexCache提供支撑
高通在8月披露,其下一代Oryon CPU将成为首款达到5GHz的移动CPU。这款八核设计包含两个5GHz的Prime核心和六个Performance核心,高通将频率提升归功于其完全自研的Oryon微架构——这是一款基于Arm的自研CPU设计,使公司能够完全掌控核心、缓存和内存层次结构、分支预测以及CPU子系统。
5GHz这一头条数字无疑会吸引关注。然而,高通全新的FlexCache架构最终可能对持续性能产生更大影响。FlexCache允许Oryon的Prime核心和Performance核心共享同一个缓存池,容量根据工作负载动态分配。因此,一个负载较重的核心不会被限制在固定的缓存份额内,而是可以在需要时调用更多可用缓存池资源。这使得更大的工作数据集能够保持在靠近CPU核心的位置,减少了访问系统内存的高延迟往返。
这种方式将惠及从游戏、多任务处理到内容创作的方方面面,同时也与智能体AI工作负载高度契合,因为这类任务可能需要经历多个处理阶段,并跨越不同的CPU核心运行。基本目标很明确:让CPU保持数据供给充足,避免昂贵的外部内存访问。
高通新一代Adreno GPU新增专用AI引擎
高通接下来披露的重点是图形处理,公司对Adreno GPU引擎进行了近年来最重大的改动之一。全新GPU增加了专用的Adreno Matrix Cores,可直接在图形管线内运行AI模型。这些核心与18MB的Adreno高性能内存(HPM)配对,为基于图块的渲染、帧缓冲和GPU计算提供低延迟本地存储。
高通表示,与上一代骁龙8至尊版第五代相比,HPM可带来12%的功耗改善。
不过,对用户来说更直观的功能可能是Adreno Neural Fusion,它将AI超分辨率、神经网络处理和帧生成整合进统一的图形管线。这与英伟达、AMD等公司在PC端推行神经渲染的思路有明显相似之处,不过高通新一代骁龙SoC必须在更严苛的移动功耗限制下运行。
高通表示,在使用公司Dragon Alley图形演示进行的内部测试中,启用Neural Fusion可将功耗降低多达40%。这个数字令人印象深刻,不过一如既往,我们还需要看到该技术在实际发售的游戏和设备中的表现,才能得出定论。
高通还协助将Neural Fusion技术集成进Unity和Unreal引擎,这一点最终可能与底层硬件同样重要。开发者的采用程度将决定此类功能能否成为真正有意义的平台优势,还是仅仅沦为规格表上的又一项勾选功能。
高通Hexagon NPU为智能体AI重新设计
最近一次披露聚焦于高通的Hexagon NPU,整体架构由此逐渐成型。公司下一代Hexagon引入了专为Transformer工作负载设计的全新Element Accelerator,与现有的向量和标量处理资源并存。高通表示,这一新模块针对快速动作循环、键值(KV)缓存加速以及最高32K的上下文长度进行了优化。
Hexagon的共享内存也增加了50%,这一内存容量的提升同样重要。模型状态、上下文和KV缓存数据会产生大量内存流量,尤其是在处理更大的语言模型时。让更多此类数据靠近NPU,能够降低延迟和功耗。高通表示,该架构专为长上下文推理、多模态模型、并发智能体和低延迟动作循环而设计。
对于INT4量化模型,公司声称相较上一代骁龙8至尊版第五代,预填充性能提升多达50%。高通还将目标瞄准了参数规模高达300亿的混合专家(MoE)模型。在其示例中,公司提到一个300亿参数模型在单次Token生成步骤中仅激活约30亿参数。这种选择性激活的方式,天然契合手机严苛的功耗和内存限制。
不过,高通并非暗示智能手机能够简单地从DRAM中完整运行一个300亿参数的密集模型。通过仅激活特定任务所需的专家模块,MoE架构能够大幅降低实际计算量和内存带宽需求,从而有望让更大规模的AI模型类别在移动硬件上变得可行。
高通新一代骁龙移动平台的影响
这里还有一个更宏观的竞争故事。多年来,旗舰智能手机的竞争主要集中在CPU、GPU、调制解调器性能和功耗效率上。如今AI已成为另一个主要的差异化领域,高通显然正围绕这一需求来设计其下一代骁龙移动平台。
苹果拥有端到端掌控自研芯片、操作系统和软件栈的优势。联发科也在持续积极进军高端Android设备市场。高通的应对之策是让其自研的Oryon CPU、Adreno GPU和Hexagon NPU更像一个高度集成的计算平台运作,专为现代AI和智能体工作负载而调校。
这对Android手机厂商而言是一项实实在在的优势,因为许多厂商并不具备自行实现这种芯片级集成的资源。高通能够为其Android厂商合作伙伴——包括三星、小米、荣耀等——提供一个统一的硬件基础,用于端侧AI、先进图形处理和智能体计算。这也为高通巩固其高端骁龙地位提供了另一条途径。
公司的自研Oryon架构如今已覆盖智能手机和Windows PC,未来还将延伸至服务器领域,而AI加速能力则分布在CPU、GPU和NPU上。对商业用户而言,这可能意味着更多AI处理将在本地完成,从而减少对云端和网络的依赖,提升响应速度,并让更多潜在敏感数据留在设备端。而对IT机构来说,高通如今有机会在搭载骁龙X的Windows PC和高端Android手机之间,提供更为一致的AI算力基础。
不过,仍有许多信息尚未披露。高通尚未公布完整的SoC规格、最终性能或功耗特性,也未透露哪些设备将率先搭载该芯片。许多此类AI体验还将高度依赖Android系统、应用开发者以及模型本身。
这款新的5GHz移动CPU或许会成为骁龙峰会上最受关注的头条,但围绕它的其他进展可能更为重要:更多的本地内存、专用的AI加速能力,以及CPU、GPU和NPU之间更紧密的整合。
如果高通能够将这一架构转化为更出色的持续性能、更高的能效以及实用的端侧AI体验,就有望在高端Android手机领域巩固自身地位,同时给苹果带来更大的竞争压力。对商业用户而言,收获可能是获得更强大的本地AI能力,同时不牺牲旗舰设备应有的性能和续航表现。
这也是我在本月晚些时候骁龙峰会揭晓完整芯片全貌时,会最密切关注的部分。而且和往年一样,我或许还能亲自上手进行一些基准测试,我们拭目以待。
Q&A
Q1:高通下一代骁龙移动平台的CPU有什么特别之处?
A:其新一代Oryon CPU是首款达到5GHz的移动CPU,采用八核设计,包含两个5GHz的Prime核心和六个Performance核心,并配备全新的FlexCache架构,允许核心共享缓存池以提升持续性能。
Q2:高通新一代Hexagon NPU如何支持智能体AI?
A:新一代Hexagon NPU引入了专为Transformer工作负载设计的Element Accelerator,共享内存增加50%,支持最高32K上下文长度,并针对长上下文推理、多模态模型和并发智能体等场景进行了优化。
Q3:高通新架构对Android手机厂商和商业用户有什么意义?
A:对Android厂商而言,高通提供了统一的硬件基础用于端侧AI和图形处理,帮助厂商缩小与苹果的差距;对商业用户而言,则意味着更多AI处理可在本地完成,减少云端依赖,同时保护敏感数据。
