推理芯片初创公司Etched Inc.今日宣布,继数周前完成由英伟达参与的3亿美元融资后,又额外获得7亿美元投资。
本轮融资由投资公司Jane Street领投,Kleiner Perkins、Sequoia、Andreessen Horowitz、Tiger Global、Bain Capital Ventures等多家机构跟投。此次融资使Etched的估值翻倍有余,达到210亿美元。
Etched成立于2021年,最初致力于设计针对特定AI模型优化的芯片,此后转型为支持多种模型架构的推理加速器研发商。据该公司介绍,其首款原型芯片已于今年早些时候在台湾积体电路制造公司(台积电)的生产线上正式下线。随后,本轮领投方Jane Street也成为Etched的首位客户。
Jane Street上个月已在其数据中心部署了搭载Etched芯片的机架。与此同时,Etched在加利福尼亚州圣何塞总部自建了一个2兆瓦的AI集群,供潜在客户测试其芯片性能。
AI加速器的性能与其运行时产生的热量密切相关。在执行高负载任务时,芯片运行温度越低,每秒所能完成的计算量就越大。降低芯片工作电压,是有效控制运行温度的重要手段之一。
Etched表示,其芯片内的数学运算模块(即数学优化电路)的工作电压不足大多数AI加速器的一半,这使得该处理器能够提供比竞争对手"高出数倍的FLOPs密度"——FLOPs密度是衡量处理器计算性能的重要指标。
Etched并未透露其低电压数学运算模块的具体实现方式。大语言模型在推理过程中主要涉及两类数学运算:点积计算和矩阵乘法。这些数学运算模块应针对上述任务进行了专项优化。
点积计算将两组数字合并为单一数值,这类运算是Transformer架构中注意力机制的核心支撑。矩阵乘法则涉及可视化为数字表格的数学结构,不仅被大语言模型的注意力机制所采用,也广泛应用于其他模型组件。
Etched以定制化机架的形式交付其芯片产品。该设计的一大亮点在于自研互连技术,用于连接机架内的各颗芯片。据《华尔街日报》报道,在某些通信任务上,竞争对手的芯片需耗时4000毫秒才能完成,而Etched的互连技术仅需700毫秒。
此外,Etched的机架设备还集成了多项自研组件,包括用于将芯片热量导入冷却液循环系统的定制冷板,以及用于优化机架供电的专有电压调节模块。
"从零开始,我们花了三年时间交付了第一个机架,"Etched联合创始人兼首席执行官加文·乌伯蒂表示,"下一个将会快得多。"
Q&A
Q1:Etched公司的芯片有什么技术优势?
A:Etched芯片的核心优势在于其数学运算模块的工作电压不足大多数AI加速器的一半,从而大幅降低芯片运行温度,使处理器能在高负载任务下提供比竞争对手高出数倍的FLOPs密度。此外,Etched还自研了芯片互连技术,可将某些通信任务的耗时从4000毫秒压缩至700毫秒,大幅提升整体系统性能。
Q2:Jane Street为什么会成为Etched的首位客户并领投本轮融资?
A:Jane Street不仅领投了Etched本轮7亿美元融资,还在Etched首款原型芯片下线后率先签约成为其首位客户,并于上个月在自家数据中心部署了搭载Etched芯片的机架。这表明Jane Street对Etched技术的实际性能较为认可,并愿意在早期阶段进行战略性押注。
Q3:Etched的芯片产品是怎么交付给客户的?
A:Etched以定制化机架的形式交付芯片产品,机架中集成了自研芯片互连技术、定制冷板以及专有电压调节模块。潜在客户可通过Etched位于加利福尼亚州圣何塞总部的2兆瓦AI集群,提前测试芯片性能。
