随着企业加速部署AI智能体并扩展AI基础设施,AMD发布了新一代EPYC服务器处理器,意图挑战英特尔在企业级CPU市场的主导地位,同时对抗英伟达在数据中心计算领域的野心。第六代EPYC产品线单路最高支持256核,并支持PCIe Gen 6和DDR5内存,AMD方面宣称该产品在性能、能效和AI吞吐量方面均实现重大提升。

AMD计算与企业AI业务高级副总裁兼总经理丹·麦克纳马拉在声明中表示:"借助第六代AMD EPYC,客户可以在成熟的x86架构基础上,选择针对特定工作负载优化的解决方案,从而运行更多智能体、保障加速基础设施的持续供给,并为他们所依赖的关键业务应用提供算力支持。"

搭载新款处理器的系统目前已由主要服务器制造商和原始设计制造商(ODM)开始出货,微软Azure和甲骨文云基础设施(OCI)的云实例也将很快推出。

硬件技术细节

EPYC 9006 SP7系列共包含10款处理器型号,单路配置从64核到256核不等,每路最多支持512线程。该产品组合既包括面向需要大量并发计算任务工作负载的高密度处理器,也包括加速频率最高可达5.3GHz的高频率版本。

在整个SP7系列中,处理器均支持16通道DDR5内存和PCIe Gen 6连接,相比PCIe Gen 5实现了每通道两倍的带宽。

TechInsights半导体分析师马尼什·拉瓦特表示:"AMD并非简单地增加核心数量,而是致力于在现有功耗和基础设施限制范围内提供更强的计算能力。这使得该平台在云计算、虚拟化、高性能计算(HPC)、企业数据库、数据分析和AI基础设施等领域具有特别的应用价值。"

与竞品的性能对比

AMD将新款处理器与英特尔Xeon和英伟达Vera CPU进行对标,并在其内部测试及公开的基准对比中宣称具有显著性能优势。

该公司声称,搭载其旗舰级256核EPYC 9996处理器的服务器性能最高可达英伟达Vera CPU系统的3.7倍;相比英特尔Xeon 6980P,性能最高可提升2.2倍,单位成本性能提升达两倍。

针对AI智能体工作负载,AMD还宣称,在托管智能体沙箱场景下,其高密度EPYC处理器每瓦功耗所能支持的智能体数量最高可达英伟达Vera的3.3倍,是英特尔Xeon 6980P的2.5倍。同时,在CPU卸载推理工作负载场景中,其高频率处理器的大语言模型输出吞吐量最高可达上一代EPYC处理器的1.8倍。

拉瓦特补充道,AMD EPYC、英特尔Xeon和英伟达Vera代表了数据中心CPU市场不断演进中的三种不同路线。"AMD凭借高核心密度、内存能力和能效表现参与竞争,而英特尔则依托其成熟的企业生态系统、平台兼容性和客户关系优势。英伟达则采取了不同的策略,其基于Arm架构设计的Vera专为AI和加速计算基础设施打造。与面向广泛通用服务器工作负载的AMD和英特尔不同,英伟达正将Vera定位为集成化AI计算平台的组成部分。"

例如,Fab Economics首席执行官达尼什·法鲁基建议,AMD高核心数的EPYC处理器适用于云整合、虚拟桌面基础设施(VDI)和AI智能体工作负载;而高频率EPYC型号则更适合数据库及软件授权成本敏感的企业应用场景。

对于内存密集型的高性能计算和科学计算工作负载,他建议选择EPYC 9006;对于紧密集成的AI训练和推理集群,他则推荐英伟达Vera。他表示,对于希望维持现有x86基础设施的企业而言,尤其是在风冷机架场景下,英特尔Xeon 6仍是一个可选方案。

CIO需要评估的要点

对于评估采用新款EPYC处理器服务器的CIO而言,选择应取决于其计划运行的工作负载类型,而非单纯追求最高核心数。

EIIRTrend & Pareekh Consulting首席执行官帕里克·贾恩表示:"AI智能体和云应用可能更受益于更多核心数,而某些数据库则需要更快的单核性能。企业应比较性能、功耗、内存容量、软件兼容性和成本。最合适的处理器是能让其应用运行效率最高的那一款。"

贾恩指出,AMD旗舰级EPYC 9996的定价约为14900美元,与英特尔高端Xeon处理器大致相当;而英伟达Vera的定价透明度则相对较低。

贾恩还建议企业应计算三到五年的总体拥有成本。

这包括硬件、电力、散热、软件授权、维护和迁移成本。AMD更强的计算能力可能使企业用更少的新服务器替换多台旧服务器,但高昂的软件授权和迁移成本可能会削减这部分节省。对于服役三到六年、电费支出较高或正在扩展AI工作负载的企业而言,升级的理由更为充分。然而,对于服务器相对较新的企业来说,可能难以获得足够的成本节省来证明更换的必要性。

Networkworld