AI云服务商Groq今日宣布完成3.5亿美元新一轮融资。
本轮融资由老股东Disruptive领投。Groq表示英伟达计划后续跟投，但未披露具体金额。此次融资距离公司上一轮6.5亿美元融资完成不足三个月。
Groq成立于2016年，最初专注于AI加速芯片研发。去年12月，英伟达与其签署了一项价值200亿美元的协议，获得该公司芯片技术授权并招募了多名核心管理人员。此后，Groq转型推出了面向AI工作负载优化的公有云平台，该平台基于公司在与英伟达达成协议之前自主研发的芯片技术。
英伟达利用Groq的技术开发了一款名为Groq 3 LPU的芯片，于今年3月正式发布。该芯片专为推理场景设计，即在模型训练完成后将其部署于生产环境中运行。
大语言模型由两大核心组件构成：注意力机制和前馈网络（FFN）。前者负责识别用户输入中最关键的信息，后者则存储大语言模型在训练过程中积累的大量知识，并承担生成回复时相当比例的计算任务。
Groq 3 LPU设计为与英伟达Rubin GPU协同使用。用户可将模型的FFN模块运行在Groq 3 LPU上，同时将注意力相关计算交由GPU处理。英伟达表示，这种分离式处理架构比将所有计算集中在GPU上更为高效。
Groq 3 LPU在其他场景下同样能带来性能提升，例如加速采用混合专家架构或投机解码技术的大语言模型。投机解码技术通过将部分计算卸载至一个更轻量、更硬件友好的辅助模型，从而提升主模型的推理速度。
英伟达以机架形式交付Groq 3 LPU，每个机架内含256块加速芯片。Groq利用这些机架为其AI优化公有云平台GroqCloud提供算力支撑。该平台提供裸金属环境，允许用户自定义底层硬件配置；面向技术能力较弱的用户，公司还提供名为GroqStack的工具套件，可自动化完成基础设施管理任务。
值得关注的是，Groq今日表示其平台不仅支持推理，还支持AI训练。Groq 3 LPU本身不支持训练场景，公司预计将借助与Groq 3 LPU机架配套部署的Rubin GPU来承载训练工作负载。英伟达提供了一款名为Dynamo的软件引擎，可自动判断推理工作负载中各部分应由哪块芯片执行。
Groq将把本轮融资所得用于扩展其公有云规模。目前，该平台的硬件部署在全球13个数据中心。Groq计划将云算力容量从57兆瓦扩展至明年的200兆瓦以上。
Q&A
Q1：Groq 3 LPU是什么芯片？有什么特点？
A：Groq 3 LPU是英伟达基于Groq技术开发的推理专用芯片，于2025年3月发布。它的核心特点是与英伟达Rubin GPU协同工作，将大语言模型中的前馈网络（FFN）计算卸载到LPU上，注意力计算仍由GPU处理，这种分离式架构比全部在GPU上运行更高效。此外，它还能加速混合专家架构模型和使用投机解码技术的模型。
Q2：GroqCloud平台提供哪些服务？
A：GroqCloud是Groq推出的AI优化公有云平台，基于Groq 3 LPU机架（每架256块加速芯片）提供算力。平台提供裸金属环境，允许技术用户自定义底层硬件；同时提供GroqStack工具套件，帮助技术能力较弱的用户自动化管理基础设施。目前平台运行在全球13个数据中心，算力容量为57兆瓦，计划明年扩展至200兆瓦以上。
Q3：Groq这轮融资的钱打算怎么用？
A：Groq表示将把3.5亿美元融资主要用于扩展GroqCloud公有云规模。具体目标是将云算力容量从当前的57兆瓦提升至明年的200兆瓦以上，意味着算力规模将增长超过3倍。
