随着人工智能对各行业及国家安全产生深远影响,掌握最新硬件能力对保持技术优势至关重要。

AI加速器是专门用于加速神经网络、深度学习和机器学习等任务的系统,近十年来一直是重要的研发方向。自2018年起,林肯实验室超算中心(LLSC)的团队开始开展"林肯AI计算调查"(Lincoln AI Computing Survey,简称LAICS)。经过六篇论文的持续更新,该调查一直在总结当前商用AI加速器,并比较它们的峰值性能与峰值功耗。

"大约八年前,我们注意到研究论文中描述的AI加速器数量急剧增加,商用加速器的发布也越来越频繁,实验室的政府资助方也开始向我们询问相关问题。这些因素促使我们启动了这项调查,"LLSC工作人员阿尔伯特·罗伊瑟表示。LLSC负责运营和优化实验室数千名研究人员所使用的高性能计算系统。

尽管AI加速器常用于机器学习等流程,但它们同样能支持其他并行计算应用,比如模拟分子功能和加速流体动力学仿真——这些都是计算量极大的任务。

AI加速器技术存在多种形式:中央处理器(CPU)、图形处理器(GPU)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)以及数据流加速器。每种类型的加速器都具有略微不同的能力。CPU可用于通用计算,而ASIC只能执行非常特定的任务。数据流加速器、FPGA和GPU则更为灵活,可针对多种工作负载进行配置。不同类型加速器的效率和性能因设计方式而异。LAICS的目标就是调查当前市场上的各类技术,并进行比较,从而找出满足特定需求的最佳加速器。

该项目由罗伊瑟领导,LAICS团队成员还包括LLSC的迈克尔·琼斯、彼得·米卡莱亚斯、杰里米·凯普纳和维杰·加德帕利。团队还与林肯实验室其他部门的研究人员合作,包括先进技术部以及情报、监视、侦察与战术系统部,以了解加速器如何支持各自任务的研发工作。

该系列的第一篇论文研究了57款加速器,而最新一篇论文已涉及超过120款加速器。团队用于比较加速器的主要指标是峰值性能和功耗,随后按照芯片、卡或系统进行分类。论文中的所有数据均来自公开渠道,这一过程颇具挑战性,因为部分公司倾向于对其性能和功耗数据保密。为了紧跟该领域的最新进展,罗伊瑟每天都会进行新闻和引用检索,追踪最新的技术新闻报道、公司公告和行业演讲。

"每年总会有五到十家初创公司获得融资、宣布成立,然后发布新的AI加速器,这一点仍然令我感到惊讶,"罗伊瑟说。"人们可能会以为这个领域已经足够饱和了,但随后又会涌现出一批创新型加速器。"

除了总结当前加速器的性能与峰值功耗对比外,每篇论文还会探讨该领域的一个新方面。例如,2022年发表的论文研究了性能提升的来源,发现其主要得益于更小、更密集的晶体管设计,以及采用更低数值精度(即计算时保留更少的有效数字)。最新论文则研究了可用的不同架构选择,分析了增加某些组件(例如每个处理器增加更多核心或提升并行性能)会对系统带来怎样的变化。

罗伊瑟计划在可预见的未来继续开展这项调查,他表示,仅在过去几个月中,就有六家新的初创公司宣布推出了首款AI加速器。

"AI及其所依赖的硬件都是热门话题,对于林肯实验室而言,在选择和推进正确技术方面充当公正的技术顾问非常重要,"罗伊瑟说。"我们的AI加速器调查帮助许多资助方和政府同行更好地了解了AI加速器领域的格局,并在相关研究和采购决策上做出更明智的判断。这项调查对于确定我们在未来LLSC系统采购中应考虑哪些GPU也极具价值,因此它不仅惠及我们的资助方和任务项目,也惠及所有LLSC用户。"

完整的论文集及相关数据集可在相关网站查询。

Q&A

Q1:林肯AI计算调查(LAICS)是什么?

A:LAICS是林肯实验室超算中心自2018年起开展的一项调查,主要总结当前商用AI加速器的情况,并比较它们的峰值性能与峰值功耗,目前已发布六篇论文。

Q2:AI加速器主要有哪些类型?

A:AI加速器主要包括中央处理器(CPU)、图形处理器(GPU)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)以及数据流加速器,各类型在灵活性和适用场景上有所不同。

Q3:最新一期LAICS论文研究了多少款加速器?

A:最新一篇论文研究了超过120款AI加速器,而该系列第一篇论文最初只研究了57款。

MIT News