当你把自拍传到购物软件,几秒后就能看到自己穿着连衣裙走在巴黎街头的效果图;当你在游戏里遇到那个总能接住你梗的虚拟队友——这些体验背后,站着一整套从不下班的AI系统,这样一套系统靠什么撑起来、又靠什么看住?

几年前,企业谈AI,更多是在讨论要不要投、选哪个模型、先做什么试验。现在,问题已经变成另一副模样。模型开始连接企业数据库,智能体开始调用API,客服、游戏、电商和金融系统要求AI实时作出反应,一次简单的用户请求背后甚至可能产生数十乃至数百次模型与工具调用。AI这辆车已经驶出测试场,进入真实业务的主干道,速度、成本、安全和治理都成了必须同时处理的问题。

在Akamai亚太区媒体沟通会上,Akamai亚太区高级销售副总裁兼区域总经理李昇、云计算首席技术官Jay Jenkins,以及亚太地区及日本安全技术与战略总监Reuben Koh分别围绕亚太AI应用、推理基础设施和AI安全展开讨论。三个人谈的话题不同,却指向同一件事:AI进入生产环境之后,企业真正需要建设的是一套能够长期承载AI运行的基础设施。

AI真的上路之后,企业最先算的是什么账?

一个AI项目在演示时跑得很好,到了每天面对几十万甚至数百万次真实请求时,还能不能继续跑下去?

李昇表示,亚太企业对AI的讨论已经明显发生变化。越来越多预算开始进入实际生产项目,业务负责人也开始要求AI投资给出可以衡量的回报。游戏公司希望AI角色能够持续陪伴玩家,电商平台希望消费者上传照片后马上看到个性化穿搭效果,银行希望客户登录的瞬间就能获得定制化服务。当AI直接影响用户停留时间、交易和收入时,它已经进入业务系统的核心位置。

Akamai的AI“路网”革命:当推理驶出测试场,成本与安全如何兼得?

Akamai亚太区高级销售副总裁兼区域总经理 李昇

这也解释了企业为什么开始重新计算Token、基础设施和长期运营成本。早期试验可以直接调用大型闭源模型,使用量增加以后,每一次模型调用都会变成账单上的数字。李昇表示,一些企业开始自行管理模型,也有客户选择经过定制的开源模型,同时加强对员工AI使用情况的治理。企业考虑的问题逐渐覆盖模型、计算、网络、安全和数据,一项AI投资要跑得久,就必须把整条道路的成本算进去。

这对我们意味着什么?以后判断一家企业AI做得深不深,仅看它接入了多少模型已经不够。更实际的问题是,这套系统每天跑多少请求、花多少钱、产生多少收入,以及当使用量扩大十倍以后还能不能稳定运行。

Akamai想把AI铺到离用户更近的地方

如果一个AI助手每次回答问题,都要绕大半个互联网去远方的数据中心,再把结果送回来,单次等待几十毫秒似乎没有太大影响。但智能体开始连续调用模型、数据库和各种工具以后,这段路就会被反复走很多遍。

Jay Jenkins给出了一组很直观的数字。一次AI请求增加40到100毫秒延迟尚且可以接受,可到了多智能体系统,一项任务可能触发数百次请求,几十毫秒会逐渐累积成4秒甚至40秒。对于游戏、实时翻译、电商推荐和金融服务来说,这种等待已经足以破坏整个用户体验。

Akamai的AI“路网”革命:当推理驶出测试场,成本与安全如何兼得?

Akamai云计算首席技术官 Jay Jenkins

因此,Akamai把“离用户更近”放在AI基础设施路线的核心位置。Jay Jenkins表示,训练仍然需要大规模集中计算,实时推理却可以根据延迟、数据位置、成本和合规要求部署在更合适的位置。Akamai希望利用分布式基础设施建立一张AI运行网络,让计算尽量靠近人、设备以及数据真正产生的地方。

发布与合作层面的动作也沿着这条路线展开。Akamai正在与NVIDIA围绕AI Grid推进合作。Jay Jenkins介绍,AI Grid是一套面向全球AI部署的框架,Akamai已经实际部署这一框架,并希望利用既有全球基础设施调用不同地区的计算资源,把模型和工作负载送到更适合运行的位置。同时,Akamai Cloud已经提供Blackwell GPU,并围绕AI Grid进行投入,以协调分布在全球的算力。

简单来说,这套思路很接近重新规划一张道路网络。大型训练任务可以继续走算力密集的“高速公路”,实时推理则尽量在用户附近找到出口,敏感数据也可以减少长距离移动。Akamai进一步通过托管容器服务推动这种部署,目前相关能力已经在超过100个地点启用;收购Fermyon后,更轻量的WebAssembly模块也可以更快地在部分边缘位置启动。

这对我们意味着什么?未来使用AI时,体验差异可能越来越少来自“模型排行榜上高了几分”,更多来自模型究竟在哪里运行、一次任务绕了多少路,以及数据为了完成一次回答需要移动多远。

AI开始替人做事,安全护栏也得跟着延伸

当AI只负责回答问题,答错一次的影响通常有限。如果AI已经获得权限,可以替用户操作系统、访问数据库甚至完成交易,情况就复杂得多。

Reuben Koh用投资场景解释了这种差异。询问AI应该买什么股票是一种使用方式,让AI直接代替用户完成投资,则意味着系统已经拥有实际行动能力。一旦指令错误或者智能体受到操纵,风险会沿着它连接的系统不断放大。

Akamai的AI“路网”革命:当推理驶出测试场,成本与安全如何兼得?

Akamai亚太地区及日本安全技术与战略总监 Reuben Koh

问题还来自大量企业根本看不到的AI使用。开发者可能为了赶进度,把公司源代码直接复制到Claude等工具中;员工可能把财务数据交给未经批准的AI服务;开发人员也可能为了快速测试,把没有经过充分验证的软件包、MCP服务器或开源组件直接接入业务系统。Reuben Koh将这些行为放进“影子AI”的范畴,企业面临的麻烦在于,很多行为本身并没有恶意,却可能让敏感数据和权限沿着看不见的通道流出企业。

Akamai当天推出的Workforce Protector也对应这一问题。该产品源于Akamai收购的LayerX,可以对员工使用AI工具时的交互进行管理。它关注提示词、文件上传、复制粘贴以及AI代理行为,在风险出现时进行警告、删除或阻止,同时尽量保留员工使用AI工具的空间。换句话说,企业要做的事情类似于在道路旁增加护栏和交通规则,让车辆继续通行,同时知道谁正在走哪条路、携带什么数据,又准备进入什么系统。

这对我们意味着什么?AI能力越强,企业越难依靠“禁止员工使用某个工具”解决问题。真正需要管理的是AI能看到什么数据、拥有多大权限、能够调用什么系统,以及一次行动发生以后能不能留下完整记录。

成本、速度和失控的AI

Akamai正在通过AI Grid构建编排能力,根据模型运行位置,把查询和提示词路由到合适节点。如果一个地区的延迟更低,系统还可以参考CDN和无服务器计算的思路,在新的位置启动实例,让后续请求获得更快响应。当然,计算节点能不能移动,还必须同时满足当地的数据和合规要求。

关于数据到底应该跟着GPU走,还是计算应该主动去找数据,Jay Jenkins给出的答案更加谨慎。当前AI Grid主要负责按照开发者配置分配和路由计算资源,工作负载放在哪里依然需要应用开发者决定。延迟、性能、算力可用性、成本、合规甚至碳排放,都可以成为控制平面的判断条件。未来,这套调度机制还可能让AI模型参与决策。

企业已经在尝试自行管理模型、使用定制开源模型,并通过治理工具识别未经批准的AI服务。李昇表示,企业过去可能只关心模型能不能完成任务,现在还要追问一次任务到底调用多少次模型,每一步是否都需要最高规格的计算资源。

当员工把企业代码贴进公共AI工具,当开发者未经验证便接入开源组件,企业甚至可能不知道风险已经进入生产系统。Reuben Koh认为,在智能体时代,安全部门面对的对象也多了一类新的“数字员工”:它们全天运行,能够调用API、访问数据并执行操作。

AI大规模进入企业以后,没有哪一项单独的技术能够解决全部问题。模型是发动机,计算节点构成道路,数据需要在道路上流动,安全和治理则决定哪些车可以上路、能够驶向哪里。任何一个环节出现拥堵或者失控,都会直接影响AI在真实业务中的表现。

对普通用户来说,这些基础设施讨论最终会表现为非常日常的体验:AI客服回答得快不快,游戏里的虚拟角色会不会突然卡住,银行的智能服务能不能即时完成操作,自己的数据会不会为了生成一次回答被传到不该去的地方。对企业而言,真正的考验也开始变得清晰——把AI做出来只是前半程,如何让它每天稳定、安全并且算得过账地运行,才是接下来更长的一段路。

至顶网AI基础设施频道 作者:刘文轩