人工智能正在改变各行各业及国家安全格局,了解最新硬件能力对于保持技术优势至关重要。
AI加速器——用于加速神经网络、深度学习和机器学习等能力的专用系统——近十年来一直是重要的发展领域。自2018年以来,林肯实验室超级计算中心(LLSC)的团队一直在开展林肯AI计算调查(LAICS,发音为"lace")。经过六篇论文的积累,LAICS持续总结当前的商用AI加速器,并比较它们的峰值性能和峰值功耗。
"大约八年前,我们看到研究论文中描述的研究型AI加速器数量急剧上升,同时商用加速器也不断被宣布推出,我们开始收到实验室工作的政府资助方关于这些产品的问题。这足以成为开展这项调查的动机。"LLSC工作人员阿尔伯特·罗伊瑟表示,该中心负责运营和优化数千名实验室研究人员使用的高性能计算系统。
尽管AI加速器常用于机器学习等流程,但它们也能支持其他并行应用,比如对分子功能进行建模和加速流体动力学模拟——这些都是计算成本非常高昂的过程。
AI加速器技术有多种形式:中央处理器(CPU)、图形处理器(GPU)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)以及数据流加速器。每种类型的加速器能力略有不同。CPU可用于通用计算,而ASIC只能执行非常特定的任务。数据流加速器、FPGA和GPU则更灵活,可针对各种工作负载进行配置。不同类型加速器的效率和性能因设计方式而异。LAICS的目标是调查当前市场上的技术,并进行比较,以找出满足特定需求的最佳加速器。
该项目由罗伊瑟领导,LAICS团队还包括LLSC成员迈克尔·琼斯、彼得·米卡莱亚斯、杰里米·凯普纳和维杰·加德帕利。团队还与林肯实验室其他部门的研究人员合作,包括先进技术部以及情报、监视、侦察与战术系统部,以了解加速器如何支持他们各自任务的研发工作。
该系列的第一篇论文研究了57款加速器,而最新一篇论文则调查了超过120款加速器。团队用来比较加速器的主要指标是峰值性能和功耗;随后他们会根据加速器是芯片级、卡级还是系统级产品进行分类。论文中的所有数据均来自公开来源,这具有一定挑战性,因为一些公司倾向于对其性能和功耗数据保密。为了及时跟进该领域的最新动态,罗伊瑟每天都会进行新闻和引文检索,关注最新的技术新闻文章、公司公告和行业演讲。
"每年都会有五到十家新创公司获得资金并宣布成立,然后发布新的AI加速器,这一点持续让我感到惊讶。"罗伊瑟说,"人们可能会认为这个领域已经足够饱和了,但随后又会涌现出一批创新的加速器。"
除了总结当前加速器的性能与峰值功耗对比外,每篇论文还会探讨该领域的一个新方面。例如,2022年发表的论文调查了性能提升的来源,发现这些提升源于更小、更密集的晶体管设计以及采用更低的数值精度(即计算时使用更少的有效数字)。最新一篇论文研究了现有的不同架构选择,分析了增加某些组件(如每个处理器的核心数量或并行性能)将如何改变系统表现。
罗伊瑟计划在可预见的未来继续开展这项调查,他表示,仅在过去几个月内,就有六家新创公司宣布推出了它们的首款AI加速器。
"AI及其运行所依赖的硬件都是热门话题,对林肯实验室而言,在选择和推进正确技术方面担任公正的技术顾问角色非常重要。"罗伊瑟说,"我们的AI加速器调查帮助许多资助方和政府同行更好地理解了AI加速器领域的现状,并在相关研究和采购决策上做出了更明智的选择。这项调查对于确定我们应该为即将到来的LLSC系统采购考虑哪些GPU也非常有价值,因此它不仅有利于我们的资助方和任务项目,也惠及所有LLSC用户。"
完整的论文集及配套数据集可在相关渠道获取。
Q&A
Q1:林肯AI计算调查(LAICS)是什么?
A:LAICS是林肯实验室超级计算中心自2018年起开展的一项持续性调查,旨在总结当前商用AI加速器的情况,并比较它们的峰值性能和峰值功耗,帮助用户更好地理解AI加速器市场的发展现状。
Q2:AI加速器有哪些主要类型?
A:AI加速器主要包括中央处理器(CPU)、图形处理器(GPU)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)以及数据流加速器。CPU适用于通用计算,ASIC执行特定任务,而GPU、FPGA和数据流加速器则更灵活,可配置用于多种工作负载。
Q3:这项调查对普通用户或机构有什么实际价值?
A:该调查帮助政府资助方和研究机构更好地理解AI加速器领域的现状,从而做出更明智的研究和采购决策,同时也为超级计算中心自身选购GPU提供了参考依据。
