一家名为Majestic Labs的初创公司于2023年由前谷歌和Meta工程师联合创立,近日发布了一款旨在挑战英伟达GPU与HBM组合方案的服务器产品。

这家总部位于特拉维夫的公司认为,将高价显卡与高带宽内存搭配使用的方式,在AI推理场景中已从根本上陷入内存瓶颈,并走入了技术死胡同。

为此,该公司推出了Prometheus服务器,以搭载Arm核心并集成RISC-V向量与张量引擎的Ignite AI处理单元(AIU)取代传统GPU。

每台Prometheus服务器最多可容纳12个AIU,并共享一个由8TB至128TB LPDDR6内存组成的统一连续内存池。该内存池通过定制的内存聚合芯粒进行访问,芯粒之间采用最长可达一米的铜缆互联,而非将内存直接封装在GPU上。

一个标准40U机架可容纳四台此类服务器,整体功耗为120千瓦,并采用冷板液冷系统进行散热,而非传统风冷方式。

相较之下,搭载八块Blackwell GPU的英伟达DGX B300系统仅提供2.3TB HBM3e显存,加上最多4TB DDR5系统内存。Majestic因此声称,其架构在快速内存容量上是该竞争配置的50倍以上,互联带宽也是其1.7倍。

"一个Majestic机架所拥有的快速内存容量,相当于25个英伟达NVL72 Vera Rubin机架,而功耗仅为其一小部分。"Majestic Labs表示,"那些过去无法承担超大规模基础设施成本的企业,现在也能运行任意工作负载。每个处理器可用的内存量最高可达传统方案的1000倍。"

Majestic Labs称,Prometheus服务器预计于明年正式出货,届时其成本将比同等性能的GPU系统低10至50倍,同时每机架的电力消耗也更低。

该服务器符合OCP开放计算规范,并将支持PyTorch、vLLM及OpenAI的Triton框架,现有AI模型无需修改即可直接运行。

公司由CEO Ofer Shacham、总裁Sha Rabii和COO Masumi Reynders联合创立,目前在特拉维夫和洛杉矶两地共有约40名员工,并于2025年底完成了1亿美元的A轮融资。Majestic Labs称已收到来自大型企业、新兴云服务商及超大规模云厂商的大量订单。

不过,目前仍有若干技术细节尚不明朗。以128TB配置为例,若采用市面上常见的2GB LPDDR6颗粒,则需要约64,000颗,意味着每台服务器可能需要超过一百个内存聚合芯粒,相关实现方案仍不透明。

Majestic Labs所披露的数据固然亮眼,但这些目前仍是该公司自行预测的数字,尚未经过任何独立机构的基准测试验证,也尚无实际出货产品。考虑从成熟GPU厂商转向该方案的企业买家,或许还需等待第三方独立评测结果,方能核实Majestic的各项声明。

Q&A

Q1:Prometheus服务器和英伟达GPU方案相比,内存差距有多大?

A:Majestic Labs声称,Prometheus服务器每台可提供8TB至128TB的统一LPDDR6内存池,而英伟达DGX B300系统仅有2.3TB HBM3e显存加上最多4TB DDR5系统内存。Majestic表示其快速内存容量是竞品的50倍以上,每个处理器可用内存最高是传统方案的1000倍,一个Majestic机架相当于25个英伟达NVL72 Vera Rubin机架的内存总量。

Q2:Prometheus服务器的价格大概是多少?什么时候能买到?

A:Majestic Labs预计Prometheus服务器将于2026年正式出货,价格方面,该公司称其成本将比同等性能的GPU系统低10至50倍,同时每机架功耗也更低。不过目前尚无具体定价公布,且所有数据均为公司自行预测,尚未经过独立第三方验证。

Q3:Prometheus服务器支持现有的AI软件框架吗?

A:支持。Prometheus服务器符合OCP开放计算规范,并将兼容PyTorch、vLLM以及OpenAI的Triton框架,现有AI模型无需任何修改即可直接运行,这大大降低了企业迁移的技术门槛。

TechRadar