关于AI基础设施的讨论已经变得相当可预测。几乎每次讨论都围绕GPU、专用芯片、电力供应以及建设更大规模AI集群的竞赛展开。这些投资固然重要,但它们忽视了一个同样关键的问题:AI能够多高效地将数据传输到需要智能处理的地方?

算力创造智能,网络传递智能。

在过去一年里,我与各行各业的企业IT负责人进行了多次交流,了解他们部署AI的实际情况。第一次讨论几乎总是围绕模型、算力容量或云战略展开。到了第三次讨论时,话题通常已经转向网络。这种转变并不令人意外。

企业AI的第一波浪潮回报了那些拥有算力资源的组织。而下一波浪潮将回报那些能够在日益分散的环境中高效、安全、可预测地移动数据的组织。这是一个截然不同的基础设施挑战。

数据移动已成为战略问题

传统企业应用产生的流量相对可预测。用户连接到中心化系统,网络的设计目标是提供各地点之间的可靠访问。但AI并非如此运作。

一次AI请求可能需要从企业数据库中提取数据,从向量数据库检索信息,访问运行在另一环境中的大语言模型,应用安全策略,并在几秒钟内向用户返回答案。这些步骤都不是孤立进行的,也都离不开网络的支撑。

这正是AI基础设施支出持续加速的原因之一。Gartner预测,到2026年全球AI支出将达到2.59万亿美元,其中基础设施投资将占近一半,因为各组织都在扩展支撑大规模AI运行所需的系统。但仅靠基础设施投资并不能保证获得更好的成果。

AI带来的最大变化之一,是将数据移动从一项运营层面的问题提升为战略层面的问题。训练模型只是整个过程的一部分。真正的挑战在于持续地跨数据中心、云平台、分支机构、边缘节点以及越来越多依赖AI的应用程序传递智能。这需要专为数据流动而设计的基础设施,而不仅仅是扩充容量。网络性能一直都很重要,AI只是提高了赌注。

延迟已成为一项业务指标

基础设施团队通常关注GPU利用率、存储性能或模型准确度。但用户并不会直接感受到这些指标。他们能感受到的是AI助手响应的速度、推荐内容是否即时呈现,以及自动化工作流是否顺畅。对于许多AI应用而言,延迟不再仅仅是一项网络指标,它正在成为一项业务指标。

推理正在向边缘迁移

推理正在推动这一变化。虽然模型训练仍然集中在大型云和超大规模计算环境中,但推理正日益向工作发生的地点靠近,例如医院、工厂、零售门店、金融机构、校园和分支机构。IDC预测,未来几年内近半数企业将在边缘部署AI推理,从而减少对中心化处理的依赖,同时增加对分布式基础设施的需求。

为可预测性而设计,而非仅仅为带宽而设计

在我的职业生涯中,我经历过多次重大的基础设施转型,从客户端-服务器计算到虚拟化,再到云计算。AI给人的感觉不同,因为它不是在改变基础设施的某一层,而是在同时改变所有层面,网络也在其中。

现在的讨论重点其实不在于增加带宽,而在于构建能够在工作负载变化、用户规模增长以及AI融入日常运营的过程中,仍能保持可预测性的网络。当AI融入业务流程时,可见性、弹性路由、多样化连接、集成安全以及智能流量管理都变得更加重要。可靠性也具有了新的含义。

当AI支撑客户服务、网络安全、制造运营或财务决策时,网络中断不再仅仅是一个连接性问题,它可能会打断日益依赖实时智能的业务流程。

安全必须与数据同步移动

安全问题遵循同样的逻辑。AI系统与分布在多个环境中的敏感企业数据进行交互。安全地移动这些信息需要网络与安全协同工作,并遵循零信任、分段管理、身份感知访问以及持续可见性等原则。

将数据连接到智能

以上这些并不会削弱算力的重要性。GPU、加速器和先进处理器将继续定义AI能够实现的边界。但基础设施方面的讨论需要变得更加广泛。

从AI中获得最大价值的组织,并不仅仅是在部署更大规模的模型。他们正在构建让数据、应用程序、用户和智能能够无摩擦协同工作的环境。这需要在设计过程的更早阶段就将网络纳入考量,这与许多组织过去的做法截然不同。

数十年来,网络的作用是将人连接到应用程序。如今,它正日益承担起将数据连接到智能的角色。我认为这是当今企业IT领域正在发生的最大基础设施变革之一。那些早早意识到这一点的组织,未必会拥有规模最大的AI部署,但他们将处于更有利的位置,能够扩展部署规模、适应未来的变化,并从AI投资中真正实现有意义的业务价值。

Q&A

Q1:为什么说AI基础设施不能只关注GPU?

A:因为算力只能创造智能,真正将智能传递到需要的地方依赖的是网络。AI请求需要跨多个系统和环境移动数据,网络效率直接影响AI应用的实际表现。

Q2:AI推理为什么会向边缘迁移?

A:因为推理越来越需要在工作实际发生的地点进行,比如医院、工厂、零售门店等。IDC预测未来几年内近半数企业将在边缘部署AI推理,以减少对中心化处理的依赖。

Q3:AI时代对网络安全有什么新要求?

A:AI系统需要与分布在多个环境中的敏感企业数据交互,因此安全必须与数据一起移动,需要网络与安全协同工作,遵循零信任、分段管理、身份感知访问和持续可见性等原则。

DataCenterKnowledge