AI基础设施公司Runware于本周二宣布推出一款名为Sonic Inference Pod的模块化数据中心产品。这一设计为单体可运输单元的推理舱，代表着一种更灵活的算力形态，可与超大规模数据中心项目并行运作。
Runware表示，与其他无服务器推理平台和GPU云相比，该推理舱能够以更低的成本提供更高质量的推理服务。模块化设计使扩容变得更加简便——只需增设新的推理舱，而无需对固定数据中心进行扩建。Runware联合创始人兼CEO Flaviu Radulescu在接受TechCrunch采访时表示，这在某种程度上代表着未来的方向。
"我们认为，分布式算力才是长期制胜之道，将算力部署在更靠近终端用户的位置，可以实现更快速的推理响应。"他以自家公司为例指出，Runware系统除价格更低外，还具备快速扩容、灵活部署（只要有电力供应即可落地）、迅速适配新硬件发布等优势。Runware推理舱还采用闭环冷却系统，完全不消耗水资源，可在数天内完成建设，而传统数据中心的建设周期则长达数月乃至数年。
"对推理服务的需求增长速度，已经超过了基础设施的建设速度，"Radulescu说道，"我们的目标是为全球智能提供动力，成为每个AI模型运行所依赖的基础骨架，让算力供给跟上需求增长，而不是成为瓶颈。"
据Radulescu介绍，Runware目前已在美国、欧洲和亚太地区部署了10个推理舱，并已为Higgsfield AI、Wix等多家公司提供推理服务，现有160个站点可用于支持推理舱的运行。去年12月，Runware宣布完成5000万美元A轮融资，旨在为图像生成类企业提供所需的基础设施支持。该公司将推理舱业务的扩展视为核心使命的组成部分——为企业提供推理服务，而非仅仅推出单一产品。
与此同时，OpenAI和SpaceX等AI公司仍在加速推进美国本土数据中心建设。据报道，OpenAI正接近完成一项规模达5000亿美元的交易，计划在俄亥俄州建设数据中心。但Radulescu并不认为这些项目会对Sonic Inference Pod构成威胁，他将推理舱的灵活性视为核心差异化优势。
"每个推理舱都作为统一网络的一部分运行，请求会被路由到最近的有空闲算力的节点；若某个推理舱下线，流量会自动切换至其他节点，"他说，"这意味着即便出现系统故障，也只是单个推理舱停运，而非整个固定设施瘫痪。有专属硬件需求的客户，可以独享整个推理舱。"
对于竞争对手复制这一模式的可能性，Radulescu也并不过于担忧，原因很简单：硬件迭代周期长，而真正懂得构建和维护这类技术的人才极为稀缺。
"一块电路板的设计出错，从重新设计、仿真、制造、测试到交付，可能耗费数月时间，"他说，"每一个环节都需要能够精准理解每个元器件功能、以及某个部件缺失会引发什么问题的专业人才。"
不过，AI数据中心的建设本身也是一个颇具争议的话题，尤其是在资源消耗方面。目前已有多地社区反映，数据中心的落地导致当地公用事业成本上涨。Runware也憧憬着未来能够完全依靠可再生能源运行、不再与社区争抢资源的愿景，但那一天尚未到来。
Radulescu表示，AI能耗的增长是大势所趋，"这是推理需求驱动的，与谁来供给无关。"他说，Runware目前关注的是如何更高效地满足这一需求："没有输电损耗，冷却不用水，用的是现有电力而非申请新建电网容量。用这种方式建设更多推理基础设施，意味着在同等算力规模下，新增电网需求更少，水资源消耗更少。"
Q&A
Q1：Sonic Inference Pod是什么？和传统数据中心有什么区别？
A：Sonic Inference Pod是Runware推出的一种模块化、可移动式数据中心单元，能够像集装箱一样灵活部署在任何有电力供应的地方。与传统固定数据中心相比，它的建设周期极短，仅需数天，而传统数据中心往往需要数月乃至数年；同时采用闭环冷却系统，不消耗水资源；扩容时只需增设新推理舱，无需对现有设施进行改造，整体灵活性远高于传统数据中心。
Q2：Runware的推理舱在价格和性能上有哪些优势？
A：Runware表示，Sonic Inference Pod能够以低于其他无服务器推理平台和GPU云的成本，提供更高质量的推理服务。此外，由于推理舱作为统一网络运行，请求会被自动路由至距离用户最近的有空闲算力节点，降低了延迟。在能耗方面，推理舱利用现有电力，无输电损耗，冷却不耗水，有助于降低运营成本。
Q3：Runware目前的规模和客户情况如何？
A：Runware目前已在美国、欧洲和亚太地区部署了10个Sonic Inference Pod，现有160个站点可用于支持推理舱运行。公司已为Higgsfield AI和Wix等企业提供推理服务。去年12月，Runware完成了5000万美元A轮融资，用于扩大面向图像生成类企业的基础设施供给能力。
