思科与AMD近日宣布扩大合作,推出一套集硬件与安全软件于一体的解决方案,旨在帮助企业客户保护、部署和管理分布式AI资源。

在本周AMD举办的"Advancing AI"活动上,思科总裁兼首席产品官Jeetu Patel登台参与AMD CEO苏姿丰的主题演讲,阐述AI推理将如何实现广泛分布,以及为何需要一套由思科与AMD联合开发的软件和工具架构栈。

此次联合架构将AMD紧凑型高性能Ryzen AI Halo硬件与思科多项网络、可观测性、治理及安全技术相结合。思科工程与研究高级总监Yash Sheth在博客文章中写道:"AMD提供桌面端/本地AI平台,底层基础是AMD Ryzen AI Halo硬件、隔离的智能体沙箱,以及本地优先推理所需的服务,包括通过AMD语义路由器实现的模型路由和Token限制,以及在Lemonade上运行的本地推理。"

据AMD介绍,Ryzen AI Halo旨在利用CPU、GPU和XDNA神经处理单元(NPU)在AI PC上支持本地AI推理。AMD表示,一个具备弹性的AI平台,即使在网络连接受限、需要更换模型或工作负载发生转移的情况下,也应能持续提供有效的AI服务。

Sheth表示,思科在此平台外围构建了一套安全保障体系,包括:Splunk Agent Observability与Splunk基础设施监控,提供全栈可观测性,追踪智能体行为、Token经济和算力运行状况;AI Defense用于模型和智能体安全防护;DefenseClaw负责安全策略执行,确保防护措施直接在设备端、智能体部署层面得到落实;以及Cisco Cloud Control,提供统一策略与控制的单一管理界面。

Sheth写道:"要使桌面端和本地AI计算在企业规模下顺畅运行,每个AI节点都必须被视为企业网络中一个受管理的安全节点。"

他还指出:"对Token效率和数据主权的需求,正在催生一类新型计算形态——桌面侧计算。用户和团队将AI智能体置于身边,推理正向混合架构演进,企业内部将出现数以千计的环境感知型桌面智能体,帮助员工实现全天候生产力提升。这是一个巨大的机遇,但也带来了全新的运营挑战。"

随着智能体AI从实验阶段迈入真实企业工作流,组织所需的不仅仅是强大的终端设备。AI智能体可以持续运行并处理企业数据,但同时对网络基础设施、Token经济管理、智能体行为以及安全防护提出了新的要求。AMD表示:"在本地运行更多AI有助于提升响应速度、让敏感数据更贴近用户,并减少对纯云端方案的依赖。但企业同样需要一种能够在规模层面监控和管理这些系统的方法。AMD与思科正通过合作,将高性能本地AI计算与可观测性、治理和控制基础设施相结合,帮助企业以负责任的方式落地部署。"

AMD计算与图形业务群高级副总裁兼总经理Jack Huynh表示:"通过将AMD Ryzen AI Halo系统及我们更广泛的本地AI软件能力,与思科的企业网络、可观测性和安全技术相结合,我们正在帮助客户以高性能、安全、可观测且可规模化管理的方式部署AI。"

苏姿丰在主题演讲中还援引了若干值得关注的数据与趋势:

AI应用正在各行业加速普及,智能体AI推动算力需求激增,工作负载正从训练向推理转移——预计到2026年,推理将占全球AI算力的60%。

AI正在走出云端,边缘设备和个人设备正成为实时分布式智能的关键载体。

AI加速器市场预计到2030年将达到1.4万亿美元,较此前预测翻近三倍,GPU仍将主导市场,但由于智能体AI的兴起,CPU迎来新的增长空间。

受智能体AI快速普及及大规模CPU基础设施需求驱动,服务器CPU市场预计到2030年将增长逾50%,规模达2000亿美元。

Q&A

Q1:思科与AMD联合推出的解决方案具体包含哪些核心技术组件?

A:该解决方案以AMD Ryzen AI Halo硬件为底层基础,整合了CPU、GPU和XDNA神经处理单元,支持本地AI推理。思科在此之上叠加了Splunk Agent Observability、Splunk基础设施监控、AI Defense安全防护、DefenseClaw策略执行以及Cisco Cloud Control统一管理界面,共同构建一套覆盖本地AI部署、安全管控和可观测性的完整企业级架构。

Q2:为什么企业需要关注桌面侧AI计算和本地推理?

A:本地AI推理有三大核心优势:提升响应速度、让敏感数据留存在用户端附近,以及降低对纯云端方案的依赖。随着智能体AI进入真实企业工作流,AI智能体可能持续运行并调用企业数据,由此带来对Token管理、智能体行为监控和安全策略的新需求,而本地部署配合统一管控平台正是应对这一挑战的有效路径。

Q3:AMD对AI加速器市场和服务器CPU市场的预测数据是多少?

A:根据苏姿丰在主题演讲中援引的数据,AI加速器市场预计到2030年将达到1.4万亿美元,是此前预测的近三倍。服务器CPU市场同期预计增长超过50%,规模达到2000亿美元,主要驱动力来自智能体AI的快速普及以及由此带来的大规模CPU基础设施需求。

Networkworld