Reflection AI公司今日推出了Beam,这是一款拥有5010亿参数的开源大语言模型。

此次发布是在该初创公司完成一轮估值250亿美元的融资数月后进行的。据报道,大约在同一时期,Reflection AI与SpaceX公司签订了一份价值63亿美元的协议,用于租用英伟达GB300 NVL72设备。该公司使用这些系统(每台包含72块显卡)来训练Beam。

Reflection AI将其模型与GLM-5.2进行了基准测试对比,后者是一款开源大语言模型,参数量比Beam多出约2500亿。该公司发现,Beam在使用三分之一到四分之一硬件资源的情况下,某些任务的表现更优。此外,该公司表示这款大语言模型的性能已接近参数超过2万亿的Qwen 3.8-Max。

此次发布尤为引人注目,因为开源生态中许多最先进的大语言模型都出自中国公司,其中包括Qwen 3.8-Max和GLM-5.2。Beam是首个展现出可媲美或超越上述模型性能的美国初创公司开源模型。不过,免费的大语言模型在性能上仍落后于Anthropic PBC旗下Claude Fable 5.1等前沿模型。

Reflection AI在开发Beam之初,先训练了一个相对较小的原型模型,随后不断创建一系列规模更大、能力更强的算法。这一工作流程最终产出了Beam Base,也就是Beam的基础版本。

Reflection AI使用一个由6144块显卡组成的集群开发了Beam Base,并在来自公共网络和商业来源的23.8万亿个Token上对模型进行了训练。据该公司介绍,这个数据集中包含大量软件代码,公司为每种编程语言专门创建了过滤器,以剔除低质量文件。

Reflection AI在不到四周的时间内完成了Beam Base的开发。随后公司进行了中期训练,这是一个优化过程,旨在扩展模型的上下文窗口并增强其推理能力。这一阶段为整个训练流程中硬件需求最高的第三阶段做好了准备。

Reflection AI调配了10000块GB300显卡,并利用它们启动了13亿个强化学习沙盒。这些沙盒是让AI模型学习新技能的虚拟环境。Beam的沙盒专门针对代码生成、网络搜索以及运行AI智能体等任务进行了优化。

Reflection AI表示,项目的强化学习阶段仅耗时四周。该公司通过开发可防止故障中断工作流程的软件,避免了不必要的延误。据介绍,在训练过程中出现的71次错误里,其集群的中位恢复时间达到了8分钟。

目前,Beam已通过早期访问计划开放使用。Reflection AI计划在本月晚些时候发布其权重文件、文档以及微调工具。

Q&A

Q1:Beam模型有多少参数?

A:Beam是Reflection AI推出的开源大语言模型,参数规模达到5010亿。

Q2:Beam的训练用了多长时间?

A:Beam Base的基础训练在不到四周内完成,后续的强化学习阶段同样耗时四周左右,整个流程效率较高。

Q3:Beam与其他开源大模型相比表现如何?

A:Beam在使用三分之一到四分之一硬件资源的情况下,某些任务表现优于参数更多的GLM-5.2,性能还接近参数超2万亿的Qwen 3.8-Max。

SiliconANGLE