据多份行业报告显示,谷歌正与AMD合作设计新一代张量处理单元(TPU),目标是服务于将AI加速与常规计算深度融合的混合型工作负载。
据悉,双方正在探索一种混合AI加速器方案,核心思路是将CPU核心直接集成到TPU处理器封装内部。这一设计部分针对强化学习和新兴的智能体AI工作负载——在这些场景中,AI加速器需要与通用处理器进行更为紧密的协同交互。
将TPU与CPU资源整合进同一封装并非全新概念。AMD和英特尔此前均已尝试将GPU技术集成到CPU中,且已推行多年。但集成在CPU中的GPU,其性能远不及独立显卡。目前尚不清楚与AMD CPU封装集成的TPU,其性能是否能与独立TPU卡相媲美。
不过,此类集成方案在性能上具备明显优势。谷歌目前在服务器中将TPU与标准X86 CPU处理器搭配使用,但由于数据需要在两块独立芯片之间传输,两者之间存在相当显著的通信延迟。而将CPU与TPU集成于同一封装后,数据传输距离大幅缩短,延迟有望得到大幅降低,但具体降幅目前尚不明确。
这一方案对强化学习场景尤为适用。在强化学习中,AI系统需要反复执行动作、评估结果并利用反馈不断优化行为,这类工作负载涉及加速器与CPU之间的频繁交互,数据搬移和通信开销的影响较为突出。
这一构想也契合谷歌在硬件层面的整体战略布局——持续开发针对复杂AI系统进行深度优化的专用硬件。谷歌开发TPU已逾十年,其TPU家族目前已迭代至第八代。
据报道,谷歌还在开发其他专用AI硬件。一个代号为"Frozen v2"的项目据称专注于高度专业化的AI推理任务,有望在Token处理效率上实现大幅提升,显著超越谷歌现有的常规TPU。
AMD方面同样在积极推进高度集成的AI系统。该公司近期宣布与Cerebras达成合作,将AMD EPYC处理器、Instinct加速器与Cerebras的晶圆级AI处理器整合于一套系统中,旨在将AI工作负载合理分配至不同类型的处理器协同完成。
对AMD而言,若能参与谷歌下一代TPU项目,将进一步印证其CPU及芯片设计技术正在成为快速扩张的定制AI加速器市场的重要力量。
对于这一合作方向,分析师给予了积极评价。知名研究机构Jon Peddie Research总裁乔恩·佩迪表示:"我认为这非常合理。AMD已经充分证明了自身在定制化、高性能、高性价比APU领域的实力,也是值得信赖的合作伙伴,而谷歌需要多元化的供应商布局。"
佩迪的评价与AMD在定制游戏芯片领域的成功经历密切相关。十余年前,游戏主机厂商希望摆脱自研专用处理器,转向X86 CPU与DirectX GPU技术,以实现与PC游戏的兼容互通。AMD最终胜出,原因在于英特尔当时没有独立GPU,而英伟达没有CPU。在相当长的一段时间里,微软Xbox与索尼PlayStation所采用的CPU/GPU组合方案,是支撑AMD存活的关键所在。时至今日,AMD凭借其SoC技术,仍主导着游戏主机芯片市场。
Q&A
Q1:谷歌与AMD合作开发的混合TPU是什么?
A:据报道,谷歌与AMD正在联合设计一款新一代混合AI加速器,核心方案是将CPU核心直接集成到TPU处理器封装中。这样做的主要目的是减少两颗独立芯片之间的数据传输延迟,同时更好地支持强化学习和智能体AI等需要CPU与加速器频繁交互的工作负载。
Q2:谷歌的"Frozen v2"项目是什么?
A:"Frozen v2"是谷歌据报正在开发的一个专用AI硬件项目,主要面向高度专业化的AI推理任务。该项目有望在Token处理效率上大幅超越谷歌现有的常规TPU,但目前公开披露的技术细节仍十分有限。
Q3:AMD为什么能在定制芯片市场赢得谷歌的信任?
A:AMD在定制芯片领域拥有长期积累的成功经验,最具代表性的是十多年前赢得微软Xbox和索尼PlayStation的定制芯片合同。当时英特尔没有GPU、英伟达没有CPU,AMD凭借CPU+GPU一体化方案脱颖而出,并至今主导游戏主机SoC市场。这一背景使业界认为AMD是谷歌定制TPU项目的可靠合作伙伴。
