超威半导体公司(AMD)今日宣布,已同意收购多伦多初创公司Taalas Inc.,后者专注于将人工智能模型直接固化进芯片硅基,此次交易将推动这家芯片制造商深入布局AI推理市场。
收购金额未予披露。消息公布后,AMD股价上涨约1.5%。
Taalas成立于2023年,主要研发其所称的"模型专用集成电路"——这类芯片将模型的权重与数据流直接铸入晶体管,而非将其反复调入调出高带宽内存。其首款测试芯片HC1基于台积电6纳米制程打造,可实现Meta旗下Llama 3.1 8B模型接近每秒17000个Token的推理速率。Taalas今年2月表示,该速率是英伟达H200的73倍,而功耗仅为后者的十分之一。第二款芯片HC2则面向约200亿参数规模的模型。
这一方案的代价是灵活性。Taalas芯片只能运行其所定制的模型,一旦模型更换,就需要重新制造新的芯片。但Taalas表示,这并不像听起来那样昂贵。在超过100层的芯片设计中,每次换代只需更改其中两层,公司借助内部工具可将流片周期压缩至约两个月。
该技术将被纳入AMD的加速器产品路线图。AMD的整体规划不止于单颗芯片,而是着眼于系统层面:让Taalas芯片与其Instinct GPU协同工作,接入旗下销售的Helios机架和EPYC处理器,并通过ROCm软件平台进行统一调度。
AMD人工智能集团高级副总裁Vamsi Boppana表示,此次收购的目标是为客户提供更多选择,让其在各类AI工作负载中都能获得"合适的计算解决方案"。他认为,Taalas带来了差异化的推理性能与能效优势。
Taalas联合创始人兼首席执行官Ljubisa Bajic此前已有一段AI芯片创业经历,曾主导Tenstorrent Inc.的运营,后离职创立Taalas。他表示,这家初创公司的使命是"从零开始重新构想AI推理,围绕模型来设计硬件"。交易完成后,其多伦多团队将并入Boppana领导的部门。
此次收购发生在推理市场重构的关键节点。过去一年,整个行业已将重心转向AI推理:英伟达去年12月宣布以据报道高达200亿美元的价格从Groq Inc.获得推理技术授权,并于今年3月的GTC大会上推出了搭载该技术的Groq 3语言处理单元。Taalas是AMD九个月内完成的第三笔AI领域收购,此前还分别于去年11月收购MK1、今年6月收购内存优化初创公司Mext,并于7月将FastFlowLM团队纳入麾下。
今年2月,Taalas完成了由Quiet Capital、富达以及半导体投资人Pierre Lamond参与的1.69亿美元融资,累计融资总额达到约2.19亿美元。
本次收购仍需满足惯例交割条件并获得监管批准。
Q&A
Q1:Taalas的模型专用集成电路和普通AI芯片有什么区别?
A:Taalas的模型专用集成电路将AI模型的权重与数据流直接铸入晶体管,无需反复从高带宽内存中调用数据。相比之下,普通AI芯片(如英伟达GPU)属于通用计算架构,可运行各种模型,但在特定模型的推理效率上不及专用芯片。Taalas的首款芯片HC1在运行Llama 3.1 8B模型时,推理速率是英伟达H200的73倍,功耗仅为其十分之一。
Q2:Taalas芯片只能运行一个模型,这个缺点会影响AMD的使用吗?
A:灵活性确实是Taalas芯片的主要局限,每款芯片只能运行为其定制的特定模型。但AMD的规划是让Taalas芯片与Instinct GPU协同工作,而非完全替代,由GPU负责通用计算,Taalas芯片承担特定高频推理任务。此外Taalas表示每次换代只需更改超百层设计中的两层,流片周期约两个月,迭代成本可控。
Q3:AMD在AI芯片领域最近还有哪些收购动作?
A:AMD近九个月内完成了三笔AI领域收购:去年11月收购MK1,今年6月收购内存优化初创公司Mext,7月将FastFlowLM团队纳入旗下,本次收购Taalas是第三笔。这一系列动作表明AMD正在加速补齐AI推理能力,在英伟达主导的AI芯片市场中寻求差异化竞争优势。
