荷兰AI加速芯片初创公司Axelera正通过其新推出的Europa平台,应对企业AI部署面临的一大主要挑战。Europa平台旨在企业数据中心有限的电力和散热预算内,提供比竞争方案更出色的AI推理性能。
AI基础设施的电力需求已成为当前数据中心建设的主要制约因素之一。超大规模云服务商能够确保专用发电产能,与公用事业公司直接谈判,甚至在某些情况下开发全新电力来源以支持庞大的AI集群。然而,许多企业数据中心并不具备这些优势。
随着企业将AI应用从实验阶段推向生产环境,每瓦性能变得至关重要。AI算力通常必须适配企业已有的基础设施和电力预算,这使得每瓦有效推理能力成为关键的部署指标。
Axelera全新的Europa AI处理单元(AIPU)将该公司在边缘和物理AI领域的高能效方案,扩展到企业级服务器级别的工作负载。Europa将首先推出两款基于PCIe扩展卡的产品:半高半长的Edge 232p和全高全长的Server 250p,让企业只需通过标准PCIe卡升级,就能为现有服务器环境增加AI推理能力。
将高能效AI引入现有企业基础设施
Axelera的产品路线图最初瞄准智能边缘应用,在这类场景中,电力是硬性设计约束,推理需要在严格的延迟、散热和功耗限制下保持稳定性能。Europa的前提假设是,围绕这些约束设计的架构,随着可用电力、散热和物理空间的增加,能够有效扩展到服务器级别。
Europa AIPU据称能在45瓦的功耗范围内提供629 TOPS算力,拥有八个AIPU核心和200 GB/s的内存带宽。该架构还集成了用于前后处理的RISC-V矢量核心,以及一个H.265解码器,减少了加速器与主机处理器之间的数据传输,适用于监控系统等机器视觉类工作负载。
这些特性在企业跨数百台服务器部署AI时尤为重要,因为加速器的功耗会影响服务器配置、机架密度、散热,并最终决定一个设施的电力预算内能容纳多少推理能力。
Axelera声称,其Edge 232p在多个Llama和Qwen模型上,每瓦每秒可处理的Token数量最高可达竞争GPU方案的六倍。这些数据结合了Axelera的内部测试和公开的竞品基准测试,因此在更广泛的工作负载范围内进行独立验证将非常重要。
不过,此前已有证据表明该公司的架构方案确实能够带来出色的能效表现。在一项针对机器视觉AI加速器的HotTech研究中,Axelera第一代Metis加速器在多流推理测试中表现出最高性能,其PCIe和M.2实现方式也持续展现出最佳能效。
Europa将这种注重能效的设计理念,延伸到了规模大得多的企业级工作负载中。
从PCIe卡扩展到企业级服务器
从企业数据中心的角度来看,Server 250p或许是更值得关注的产品。它是一款全高全长的双槽PCIe加速卡,提供128GB或256GB LPDDR5内存两种配置。
Axelera表示,单张Server 250p在以INT4精度运行Qwen3 8B模型、处理大批量并发请求时,每秒可输出4205个Token,能效达到每瓦每秒32.1个Token。一台服务器最多可安装八张卡,为在传统服务器基础设施内扩展推理能力提供了路径。
对于需要为众多内部用户同时提供AI应用服务的企业来说,这种部署模式可能非常实用,使企业能够在本地部署推理能力,并随着使用率增长逐步增加加速器数量,而无需将每个请求都发送到公有云,也无需搭建专用的高功耗GPU基础设施。
安全性与合规性同样是需要考量的因素。金融服务、医疗、法律、国防和政府机构在敏感信息的处理和存储地点上受到限制。Europa为在企业自行掌控的本地基础设施中运行这类工作负载提供了一种选择。
当然,新的服务器方案也需要以企业IT部门能够采购、部署和支持的完整系统形式提供。Axelera的Edge 232p卡已可在经过完整验证的戴尔和超微系统中使用,其更广泛的已验证OEM合作伙伴阵容还包括慧与、联想、研华和Axiomtek。
软件仍是关键门槛
在软件支持方面,Axelera的Voyager SDK覆盖其现有Metis产品线和全新的Europa架构,为嵌入式、边缘和服务器部署提供统一环境,支持众多计算机视觉模型、大语言模型、视觉语言模型、扩散模型、语音及其他AI工作负载。
为实现自动化配置,Axelera的Voyager Wingman通过自然语言提示帮助开发者创建或移植推理流水线,而AxeleraScript(简称AxScript)则提供了一种支持Python的领域专用语言,可对AIPU进行更底层的控制,用于自定义算子和Transformer模型。
这一点可能与Europa的性能和能效同样重要。企业已经拥有各自的模型、开发环境和应用技术栈,大规模重写代码或需要专业技能都会增加开发和运营成本,可能迅速抵消硬件和电力方面节省的成本。
定义企业AI基础设施新模式
Axelera并未将Europa定位为训练下一代前沿模型的硬件。其机遇在于生产环境中的企业推理,即在现有电力、散热、安全和预算约束内提供高性能。该公司似乎也正获得商业上的进展,据报道其全球客户已超过600家,销售管线规模超过15亿美元。
对于首席信息官和基础设施工程师而言,Europa可能代表着介于完全依赖公有云AI服务和部署高耗电专用GPU基础设施之间的另一种选择。如果Axelera的每瓦性能宣称能在更广泛的企业工作负载中得到验证,其经济性将颇具吸引力。
超大规模云服务商拥有追逐新电力来源和机架架构的资本与规模优势。相比之下,大多数企业必须在已有的电力限制、散热能力和数据中心空间内运作。这使得能效成为一项根本性的基础设施约束,也为Axelera Europa这类高能效架构在蓬勃发展的企业AI市场中打开了机遇。
Q&A
Q1:Axelera Europa平台主要解决什么问题?
A:Europa平台旨在解决企业AI部署中的电力和散热限制问题,能在有限的功耗预算内提供比竞争方案更出色的AI推理性能,让AI算力更好地适配企业已有的基础设施。
Q2:Europa AIPU都有哪些产品形态?
A:Europa初期推出两款基于PCIe扩展卡的产品,分别是半高半长的Edge 232p和全高全长的Server 250p,企业可通过标准PCIe卡升级为现有服务器增加AI推理能力。
Q3:Server 250p的性能表现如何?
A:单张Server 250p在以INT4精度运行Qwen3 8B模型处理大批量并发请求时,每秒可输出4205个Token,能效达到每瓦每秒32.1个Token,一台服务器最多可安装八张卡进行扩展。
