谷歌公司今日为其第八代张量处理单元架构家族推出两款专用人工智能芯片,旨在提升计算密度并加强安全推理能力。

在2026年4月的谷歌云Next大会上,谷歌已在同一代产品中推出两款专用TPU:面向大规模训练的8t和专为实时推理设计的8i。彼时该公司表示,推出这些芯片是为了应对AI工作负载中两项主要任务的严苛需求:构建模型与运行模型。

今天的扩展为更多系统带来了两款新的专用芯片:面向超大上下文窗口及机架最高计算密度的TPU 8i Max,以及专为安全与保密推理设计的TPU 8tx。

TPU 8i Max:应对内存瓶颈

谷歌表示,TPU 8i Max旨在扩展计算与内存能力,相比TPU 8i实现了计算能力翻倍、SRAM容量翻倍以及高带宽内存翻倍。这使处理器能够拥有尽可能多的内存来处理数据,而无需频繁换出数据。

此外,该公司补充说,8i Max能在相同机架空间内容纳两倍的芯片数量,从而降低了数据中心每平方英尺及每瓦特所占用的空间。

这使得第八代TPU能够为客户提供专为更大模型及当前行业对超大上下文窗口的追求而打造的专用加速器。

上下文窗口相当于AI模型的工作空间:即模型在回答问题时能够考虑的数据量。更大的窗口让模型能够处理更长的文档、对话历史、音频文件、视频或代码集合。但扩大窗口也需要付出代价。处理并反复查阅更多信息会对芯片提出更高要求,需要更频繁地换入换出数据,从而需要更多片上内存以及在处理器间传输数据的更强连接。

增加片上内存可以减少处理器之间的数据传输需求,从而降低延迟并减少AI模型"思考"信息所需的功耗。

谷歌表示,其在为Gemini前沿模型推动超大上下文窗口的同时,也开发了8i Max,该模型支持业内标准的100万Token。这大约相当于75万个单词或1500页文本。尽管旗舰模型能够处理100万Token,但较小的模型通常仅支持介于12.8万至25.6万Token之间的较窄窗口。

TPU 8tx:专注保密性

谷歌表示,其针对安全保密推理对TPU 8tx进行了优化,该芯片专为希望在处理最敏感数据的同时运行前沿模型或专有模型及自主智能体的受监管企业和政府机构而设计。

通常情况下,数据在存储或通过网络传输时是加密的,但当AI模型处理这些信息时,必须对其进行解码。8tx基于与TPU 8t相同的架构构建,配备定制AMD中央处理器主机,并直接在硬件层内置了安全隔区,用于保护和隔离敏感数据及模型权重。

该公司表示,这一架构将训练级计算能力与快速推理相结合,这意味着企业机构可以在单一保密系统上运行和定制模型。这种组合使受监管的服务和行业能够利用私有数据微调模型,将大模型蒸馏为小模型,并通过强化学习训练智能体。

所有这些操作都无需在独立集群之间迁移数据,从而避免了敏感信息因此而泄露的风险。

SiliconANGLE