如果列出新兴AI趋势，边缘AI——在数据产生的地方或附近运行AI工作负载，而非在集中式数据中心运行——很可能榜上有名。在企业担忧向第三方发送敏感数据以及远程服务延迟的背景下，将模型部署在更靠近用户的位置，有望在控制力和性能上带来提升。
这一趋势也给数据中心行业带来了新的疑问。近年来数据中心基础设施的爆发式增长，很大程度上建立在企业将集中托管AI模型（而非部署在边缘）这一假设之上。如果边缘AI加速发展，AI专用数据中心的重要性是否会随之下降？
什么是边缘AI？
边缘AI是指在边缘基础设施上运行AI模型或应用的实践——例如本地服务器或终端设备——而非远程超大规模或托管数据中心。
目前大多数主流AI平台并非如此部署。ChatGPT和Gemini等公共服务背后的模型运行在超大规模设施中，通过互联网访问。即便是许多私有构建或托管的模型，通常也运行在数据中心，而非本地终端或本地服务器上。
边缘AI提供了一条不同的部署路径：将模型和数据保留在生产和使用的地方附近，通常运行在自有硬件上，并通过本地或私有网络访问。
为何在边缘运行AI：安全性与低延迟
边缘AI在两个核心领域具有优势：安全性和性能。
从安全角度看，将模型和数据保留在本地，意味着企业无需将敏感信息上传至第三方云端或数据中心，可直接掌控数据存储位置和访问权限。
边缘AI还能降低网络攻击的暴露风险。将模型端点置于内部防火墙之后、与公开互联网隔离，使远程攻击者更难发现和利用。与没有直接互联网连接的本地服务相比，针对公开暴露接口的提示词注入等攻击更容易发动。
在性能方面，边缘AI通常能降低延迟。相比将数据从用户设备发送至远程数据中心再返回——这一往返过程因网络状况不同可能耗时零点几秒到数秒——本地网络通常能提供更快、更稳定的响应时间。
边缘AI现状：本地模型、硬件与投资信号
上述优势解释了边缘AI热度持续上升的原因。
一个信号是本地大语言模型的日益普及——这类模型设计为在终端用户设备上运行，而非在云端。曾因终端硬件限制而被认为不切实际，但随着更高效的架构和工具链不断改善设备端性能，本地大语言模型已逐渐获得市场认可。
另一个信号是边缘AI基础设施和服务投资的增加。IDC《全球边缘支出指南》（2026年2月）预测，2024年至2029年边缘AI支出的复合年增长率将达24.4%，反映出企业对这一领域强劲且持续加速的兴趣。
对数据中心投资的潜在威胁
对个人和企业而言，边缘AI优势明显；但对数据中心运营商来说，它带来了不确定性。
AI向边缘迁移的程度越深，在大型集中设施中托管模型的需求压力就可能越小。这一趋势对那些已大量投入AI优化数据中心建设的企业来说可能并非好消息，其中许多项目仍在推进中。如果相当一部分工作负载转移至边缘，这些设施将面临利用率不足的风险。
为何边缘AI不太可能终结数据中心
尽管如此，边缘AI的增长并不必然以牺牲传统数据中心中的AI为代价。
在许多场景下，企业很可能同时投资两者：将数据极度敏感或对超低延迟有要求的工作负载部署在边缘，同时继续在集中式环境中运行其他模型。
现实因素也支持这种混合方式。大规模部署AI优化硬件——支持GPU的服务器、高带宽互联和先进冷却系统——在大型数据中心往往更具可行性和成本效益，因为规模经济能提升电力、冷却和运营效率。
物理安全同样不可忽视。边缘部署地点的物理安全性通常低于分级数据中心，这使得企业在将昂贵的GPU和其他加速器部署到分散站点时更为谨慎。
总体而言，尽管边缘AI有望成为托管AI工作负载的重要方式，但不太可能取代传统数据中心。近期部分AI数据中心投资或许无法达到预期利用率，但若真如此，边缘AI也不太可能是主要原因。
Q&A
Q1：边缘AI和传统数据中心AI有什么区别？
A：边缘AI是指在数据产生的本地位置（如本地服务器或终端设备）运行AI模型，而传统方式是将模型托管在远程超大规模数据中心并通过互联网访问。边缘AI的核心优势在于数据不需要离开本地环境，安全性更高，同时本地网络响应速度更快、延迟更低。
Q2：边缘AI的安全性为什么比云端AI更好？
A：边缘AI将模型和数据保留在本地，企业无需将敏感信息上传至第三方云端，可直接掌控数据存储位置和访问权限。此外，模型端点置于内部防火墙之后，不暴露在公开互联网上，远程攻击者更难发现和利用，提示词注入等攻击也更难实施。
Q3：边缘AI会取代数据中心吗？
A：不太可能完全取代。企业更可能同时投资两者：对延迟要求极高或数据极度敏感的工作负载部署在边缘，其他模型仍在集中式数据中心运行。大规模部署AI硬件在数据中心更具成本效益，且边缘站点的物理安全性通常不及专业数据中心，因此混合部署模式更为现实。
