AI基础设施初创公司General Compute今日宣布，已完成4亿美元债务融资。
本轮融资由投资公司Upper90承销，初期将向General Compute提供1亿美元资金，后续将根据客户需求增长情况逐步追加拨款。
与大多数AI基础设施提供商不同，General Compute并未采用英伟达的显卡，而是基于AMD和SambaNova的芯片构建其云平台。SambaNova同样是一家初创公司，近期刚完成10亿美元融资。
AI模型处理用户请求需经历两个阶段。首先是预填充阶段，模型从用户输入中提取语义；其次是解码阶段，模型逐个Token生成响应内容。
解码阶段需要AI模型在芯片内存与处理电路之间频繁传输大量数据。SambaNova的加速芯片专门针对这一工作流程进行了优化，因此在解码速度上可以超越部分英伟达显卡。
数据在芯片内存与处理模块之间的传输速度，取决于两者之间的物理距离——距离越近，传输耗时越短。SambaNova芯片将内存与处理电路紧密相邻排布，从而将数据传输延迟降至最低。
General Compute采用SambaNova芯片执行解码计算，而推理工作流的另一环节——预填充阶段——则由AMD MI300X显卡承担。MI300X集成了12个芯粒和8个内存堆叠，共搭载1530亿个晶体管。
MI300X与SambaNova芯片均可在标准风冷服务器机架中运行，这意味着General Compute在扩充云计算容量时，无需投入大量资金用于大多数显卡所需的液冷设备，从而实现更快速的基础设施升级。
General Compute为客户提供两种推理硬件访问服务。
第一种服务提供托管版开源语言模型，开发者可通过仿照OpenAI接口规范设计的API进行调用，有效降低上手难度。第二种服务则提供具备更强计算能力的专属基础设施环境。
General Compute计划将本次融资所得用于扩展云计算规模。据其官网文件显示，公司已签署协议，获得在第三方托管设施中采购15兆瓦风冷机架容量的选择权，预计该基础设施规模足以支撑公司第四季度的增长计划。
Q&A
Q1：General Compute为什么不用英伟达显卡，而选择AMD和SambaNova的芯片？
A：General Compute选择AMD MI300X和SambaNova芯片，主要是基于性能和成本的综合考量。SambaNova芯片在AI推理的解码阶段表现出色，其内存与处理电路紧密相邻的设计大幅缩短了数据传输延迟，解码速度可超越部分英伟达显卡。此外，这两款芯片均支持标准风冷机架运行，省去了液冷设备的高额投入，有助于降低基础设施升级成本并加快扩容速度。
Q2：General Compute的4亿美元债务融资将如何使用？
A：General Compute计划将这笔资金用于扩展其云计算基础设施。目前公司已签署协议，获得在第三方托管设施中采购15兆瓦风冷机架容量的选择权，预计这一规模可满足公司第四季度的增长需求。资金方面，承销方Upper90将先行提供1亿美元，后续将根据实际客户需求增长情况继续拨付剩余款项。
Q3：General Compute提供哪些服务，开发者如何接入？
A：General Compute目前提供两类服务：一是托管版开源语言模型服务，开发者可通过兼容OpenAI接口规范的API进行调用，降低学习成本，快速上手；二是专属基础设施环境服务，为有更高算力需求的客户提供独立的计算资源，适合对性能和资源隔离有较高要求的企业用户。
