尽管企业不断加大基础设施投入,延迟问题依然在上升——这是云服务商 Akamai 委托 Forrester Consulting 对 528 名 IT 决策者进行调研后得出的结论,原因是企业系统正努力应对智能体工作负载带来的压力。

几乎所有受访者都表示,过去一年中他们至少采取过一项措施来缓解基础设施性能滞后的问题。

调研显示,当某项应用未能达到响应时间目标后,58% 的受访者选择增加基础设施支出以尝试改善这一指标。另一些 IT 决策者则进行了结构性调整:38% 缩减了产品功能范围,34% 推迟了产品上线时间,30% 限制了产品能力。

近半数受访者表示,他们已经接受了部分用户体验到的性能下降。“大量企业都在努力实现他们曾宣称要达成的性能目标,[一些企业]表示‘我们就这样凑合着用了’,这种状况并不理想,”Akamai 产品营销总监丹妮尔·库克(Danielle Cook)在接受 CIO Dive 采访时说道。“当你的系统中有智能体在运行时,这种状况绝对称不上理想。”

随着企业支持智能体工作负载并应对性能问题,缩短计算资源与应用之间的距离正成为首席信息官们日益重视的考量因素。

根据 Ocient 与 Propeller Insights 发布的一份报告,智能体工作负载正给企业运营带来更大压力,并使成本不断攀升——包括数据处理费用上涨、低延迟需求增加以及基础设施成本上升。报告发现,约 25% 的技术负责人表示,其 AI 需求已经超出了现有基础设施的支撑能力。

据分析机构 Gartner 预测,随着各组织纷纷将资金投入 AI 基础设施,力图“实现 AI 部署的产业化”,明年全球 IT 支出预计将达到 7.35 万亿美元。

随着响应时间变得愈发关键,Akamai 的调研显示,仅有 16% 的企业表示能够持续稳定地达到业务关键型应用的响应时间目标。38% 的受访者认为,造成延迟问题的最大因素之一是终端用户与计算资源之间的物理距离。另有 41% 的受访者表示,数据存储位置与数据处理位置之间的差异也是导致延迟的因素之一。

实时工作负载正变得越来越普遍,四分之三的受访者表示,其超过 25% 的应用属于交互式应用。然而,包括批处理和大规模数据分析在内的传统工作负载,仍占据企业计算资源使用的最大份额。

“集中式基础设施很棒,有很多充分、可靠的理由支持你采用它,”库克向 CIO Dive 表示。“但当你的智能体需要争夺信息资源,或者要快速完成一个循环任务时,你就需要分布式计算能力。”

对于那些正在创建新应用或希望使用开放权重模型的企业,库克表示,IT 负责人可以评估哪些计算任务可以迁移、以及如何衡量性能,而不必对现有环境进行彻底的重新架构。

CIO DIVE