Anthropic今日正式披露了自研人工智能芯片的计划,此前坊间流传的相关传言得到证实。
据Business Insider报道,Anthropic发言人表示,公司将把芯片研发与未来的大语言模型进行联合设计。联合设计的核心思路,在于针对特定工作负载对芯片进行深度定制,从而显著提升硬件运行效率。
目前市面上现成的AI芯片,其规格往往与所运行的模型并不匹配——例如,某款加速器的显存可能略多于或略少于大语言模型的实际需求。将芯片与运行其上的软件进行联合设计,则可有效消除这类浪费。
据Business Insider报道,Anthropic正在组建内部芯片研发团队,招募对象包括处理器设计工程师和芯片验证专家。芯片验证是确保设计方案按预期运行的关键流程。
从一则招聘信息来看,Anthropic计划借助AI实现部分验证工作的自动化。根据该职位描述,公司计划构建仿真环境,让Claude学习如何测试新设计的芯片。这一工作将重点采用一种名为"形式验证"的评估方法——通过模拟芯片在所有可能运行条件下的组合来排查设计缺陷。
在芯片验证领域,半导体工程师还会综合使用多种其他方法。测试初期,工程师通常在仿真环境中运行芯片的虚拟版本;随后将其移植至FPGA(现场可编程门阵列)进行验证。FPGA能够在硬件层面模拟其他处理器的行为,相比纯软件仿真可提供更为详尽的运行遥测数据。
OpenAI同样在利用AI加速芯片设计进程。今年6月,OpenAI发布了与Broadcom联合研发的自定义推理加速芯片Jalapeno。由于双方在研发过程中大量采用AI自动化手段替代人工操作,整个芯片设计周期仅耗时九个月。
Anthropic即将推出的芯片很可能与Jalapeno类似,主要针对推理工作负载进行优化。推理,即在训练完成后在生产环境中运行大语言模型的过程,通常是AI服务商最大的基础设施开销所在。相比现成的显卡,定制芯片往往具备更高的成本效益。
有关Anthropic芯片研发计划的传闻最早于今年4月出现。6月初,The Information报道称,该公司可能与三星电子合作,委托其代工生产芯片。
在芯片代工市场,三星的份额远不及台积电,但其近期推出了一项名为zHBM的技术,有望大幅提升AI芯片的运行效率。与三星合作,或将使Anthropic得以在其新一代加速器中引入zHBM技术。
在传统显卡架构中,逻辑核心与HBM内存并排置于同一基板上。三星表示,zHBM技术可实现将内存直接堆叠于逻辑核心之上。这种结构缩短了数据在内存与逻辑电路之间的传输路径,从而有效降低功耗。
Q&A
Q1:Anthropic自研芯片为什么要和大语言模型进行联合设计?
A:现成AI芯片的规格往往与所运行的大语言模型不完全匹配,可能存在显存过多或不足的情况,造成资源浪费。联合设计可以让芯片规格精准贴合模型需求,消除这类低效问题,显著提升硬件运行效率,同时降低推理阶段的基础设施成本。
Q2:Anthropic打算如何用AI辅助芯片验证工作?
A:根据Anthropic发布的招聘信息,公司计划构建仿真环境,让旗下AI模型Claude学习如何测试新设计的芯片。重点采用"形式验证"方法,通过模拟芯片在所有可能运行条件下的组合来自动排查设计缺陷,从而减少人工验证的工作量,提升验证效率。
Q3:Anthropic芯片可能选择三星代工,三星的zHBM技术有什么优势?
A:传统显卡中,逻辑核心与HBM内存是并排放置在同一基板上的。三星的zHBM技术则可以将内存直接堆叠在逻辑核心上方,缩短数据在两者之间的传输距离,从而降低功耗、提升AI芯片整体运行效率。这一技术优势可能是Anthropic考虑与三星合作的重要原因。
