要点提示:
芯片设计正朝着专业化AI智能体协同工作的方向发展。
编排、集成与防护机制正变得至关重要。
人类工程师在指导和验证设计与流程方面仍发挥核心作用。
AI智能体正变得更聪明、更强大,并越来越针对特定任务进行优化,这为使用小型语言模型而非在每项任务上都依赖大语言模型创造了新机会。
这种转变对半导体行业产生了广泛影响,从芯片的实际设计与制造,到芯片在不同工作负载下的运行方式,无不涉及。虽然大语言模型可以部署智能体集群进行持续推理和独立行动,但这对大多数应用而言是过度配置。
但缩小模型规模,以及可能减少智能体的数量或能力,也带来了自身的挑战。一种方法是将复杂工作流分配给较小的语言模型和智能体,同时仍保留设计、优化、布局规划、验证、调试芯片,以及识别可能限制良率的制造过程异常和偏差所需的计算能力。这种方法将人类专业知识与AI处理海量数据的能力结合起来。
"在我们早期的智能体工作中,我们为每个工具都创建了智能体,涵盖问答功能,"新思科技创新高级副总裁普里斯·班纳吉说。"我们有针对这个的智能体,也有针对那个的智能体。但在多智能体工作流的世界里,我们的客户想要设计一款芯片。可能他们在功耗性能面积(PPA)方面遇到了问题,一些工程师说他们清楚知道需要做哪些改动来降低功耗。所以他们会做时钟门控,但做了时钟门控之后面积会增加。这时,负责面积的专家就会介入。这正是现实世界中发生的情况——多个人协同合作,通过配合设计出一个系统。人类管理者在多智能体框架中协调人类智能体的活动。"
下一步是如何自动化并整合更多这类流程,这需要更多的防护机制来限制AI的行为边界。
"模型正在划定边界,"Movellus公司首席执行官莫·费萨尔说。"这就像是,'嘿,你正在进入我的工作领域。守好自己的本分。'我们将会走向专业化。少数几家大公司会采用大语言模型,但其他所有人都必须走专业化路线。而且,AI并不仅仅指大语言模型。那只是最大的应用场景,但并非AI的定义。AI智能可以应用于许多领域。人们在为芯片构建AI,但也有用于其他一切事物的AI——会计、法律、天气预测,这些都是不同且独特的工作负载。但你不需要用大语言模型来做天气预测,那样效率太低。"
专业化的好处和坏处在于,智能体需要被配置并集成到现有工具和工作流中。让所有这些无缝协作是一项艰巨的工作。这需要由其他智能体或经过训练能够将这些可能重叠的步骤整合在一起的智能体团队来进行编排。而且这需要一种完全不同的解决问题方式,在这种方式中,基于CPU的编排可能与基于GPU的乘加运算同等重要,甚至更为重要。
"我们已经发展到了'超级智能体'的聚合层面,我们认为它们的复杂性和所能提供的价值可能与EDA工具一样大,甚至更大,"Cadence验证软件产品管理高级组总监马特·格雷厄姆说。"这是一类全新的工具,我们开始较少谈论智能体,而更多谈论动态组装成智能体的'技能'。但核心理念是,这一切都由一种编排型的超级智能体来处理。就像我们的客户一直以来通过自定义脚本将我们的工具排列成工作流一样,他们将按照自己的需求,通过编写自己的脚本并将其纳入工作流,来排列这些超级智能体和智能体工作流及解决方案。"
这些超级智能体(或称主导智能体、管理智能体,或简称智能体——这个领域太新了,命名规范一直在变化),以及由这些超级智能体管理的子智能体,可以协同使用,也可以分开管理。
"你可以让子智能体做不同的事情,然后对于其他事情,我们有多智能体解决方案,"ChipAgents首席执行官王威廉说。"我们在去年第四季度向业界发布了一款多智能体解决方案,它用于诸如调试之类的多智能体协调工作。如果你的SoC规模很大,你要如何优化性能?要做到这一点,你需要多个智能体并行访问不同的上下文来完成任务。同样,在功能验证/形式验证方面,你可以让多个智能体查看不同的颜色分组来进行调试并实现优化。这些都极其关键。"
集成难题
芯片设计和制造需要可重复性和可预测性,但许多前沿芯片都是独一无二的。对于多芯粒封装而言尤其如此,它们通常针对特定数据类型或应用进行优化,例如数据中心、智能手机和机器人。同时,智能体采取的任何行动都需要与现有工具、流程或过程兼容,而这些工具、流程或过程又必须适应智能体AI的快速演进。
"通常客户会在某个平台内工作,可能是Cadence Virtuoso、新思科技的Custom Compiler,或是是德科技的Advanced Design System,在这个环境中,我们引导他们完成一个特定应用的工作流,"是德科技EDA部门高级副总裁尼尔斯·法舍说。"我们提供产品内文档,解释工具的各个步骤、设置及各种可能性。这一切都是为人类工程师协作完成复杂产品而设计的。有了AI,这变成了一种截然不同的模式,人类工程师与数字工程师或智能体协同工作。所以现在我们必须重新设计我们的产品。你听说过MCP(模型上下文协议)服务器,我们要审视一款产品并思考,'我们如何将它模块化,通过恰当的API提供对不同能力的访问?'所有这些编码通常都是用Python完成的,这样就能让智能体将基于代码的工作流拼接在一起。我们的工作就是确保客户能获得这种MCP功能。"
要让这种方法行之有效,需要为智能体设定更明确的目标,让它们既能独立工作,也能与其他智能体协同工作,同时还需要更好地训练智能体以实现这些目标。"如果你想让一个智能体执行某项特定任务——可能是合成一个滤波器——你会说,'我想设计一个具有这些特性的滤波器,一个带通滤波器,这个频率范围。'"法舍说。"然后这个智能体需要问,'好的,什么是滤波器?我该如何设置仿真?'它需要示例。但你还需要一个MCP服务器,能够将这个请求分解成一系列步骤,并调用正确的功能来执行该步骤。以前在图形用户界面中引导完成的操作,现在变成了你提供给智能体的示例技能形式,你告诉它,'这就是执行这项任务的方法。'"
这些智能体在必要时还需要能够突破领域壁垒,但在其他时候要遵守限制。目前人们对失控AI智能体的一些担忧,源于日益复杂的查询要求AI智能体超越那些对AI而言仅是虚拟构造的领域壁垒进行探索,以及智能体自主性过高的问题。使用无法拆解这些沙盒或抓取整个互联网的小型语言模型和智能体会有所帮助,这样壁垒只会在被允许的情况下才被突破。
"这些壁垒依然存在,"西门子EDA执行副总裁兼EDA集成电路软件业务负责人安库尔·古普塔说。"有用于仿真的EDA,一直延伸到PLM(产品生命周期管理),那是现实世界的部署、运行,各种设施都参与其中。这不仅仅是用于设计验证的EDA。这就是我们开始谈论数字孪生并捕捉某些智能的地方。现在这已成为现实,尤其是当你把大语言模型和小语言模型纳入考量时。你正在为每一个领域——芯片、系统、仿真、PLM系统——捕捉足够的信息,用于数据本体建模。大语言模型和小语言模型必须基于数据运行,我们正将所有这些连接成一个层。在这个层之上是每个领域,它与这个层中的数据进行交互。但它同样也可以轻易地跨越这些壁垒进行交互。"
这种做法也有商业案例支撑,因此解决任何问题都关乎重大利益。整合涵盖多个流程的晶圆厂数据可以在芯片制造中节省大量的资金和时间。"在3纳米和2纳米工艺上,一个错误的成本高达5亿美元,"古普塔说。"这就是这些引擎必须保持高保真度的原因。我们使用强化学习、无监督学习——我们十多年来一直在这样做。但我们衡量这种学习能力成果的方式,是看我们是否仍在交付可信的结果。这一点不会改变。"
小型语言模型非常适合许多专业化任务。"我们看到这种情况正在基于检索增强生成(RAG)的特定应用中发生,"SiMa工程负责人什里尼瓦斯·库尔卡尼说。"对于特定用例,小型语言模型非常高效,而不是使用大语言模型并对其进行量化,他们可以用自己的数据来训练模型,以确保其非常准确。"
其他人也认同这一观点。"我们看到人们正在认同这样的理念:智能体的上下文范围有限,然后你有一个编排器在纵览全局,因此在构建智能体架构时,你需要自上而下和自下而上的方法相结合,"Baya Systems首席解决方案架构师索拉布·盖恩说。"在谈论这些内容时,人们常常忽略的一点是'人在回路中'。如果你把整个问题看作一个黑箱,你是要构建一个分层的黑箱来获得最佳结果,还是想在这个过程中暂停下来,让人来理解,这样他们就能把这样的想法融入其中,'嘿,别这么想,那样想。' AI与其说是替代工程师,不如说是增强他们的能力和理解力的一种方式。"
人类工程师实际上是让AI发挥作用的黏合剂。他们对于弄清楚一个设计的不同层次或一系列制造流程中的智能体如何才能最佳协同优化至关重要。"我们都在共同学习这一点,"盖恩说。"如何构建这些智能体层次是一门艺术。如果有人说他们已经找到了完美的解决方案,那实际上只是众多方案中的一种而已。"
但人类工程师也供不应求。"我们经历过美好的互联网泡没时期,那时没人愿意进入半导体行业,因为大家都想成为软件程序员,"Arteris首席产品与营销官米哈尔·西温斯基说。"人才库出现了一段低迷期,虽然近来在缓慢恢复,但在真正能影响设计的经验丰富人才数量上,仍存在缺口。智能体AI有助于填补部分空缺。在这种情况下,它实际上不是加速器,而是补位者。一个人能有多少个周末投入到这些项目中?"
数据洪流
所有这些挑战与进步的根源在于数据利用方式的改变。人们对突破沙盒限制、逆向工程,乃至AI芯片性能与功耗的担忧,都取决于数据的创建、流动、存储与安全。真实世界的数据更佳,但合成数据通过专家工程师的更好训练也可以近似达到相同效果。
"出现了一类新的工作岗位,如果你是任何领域排名前1%的专家,你就能找到一份与大语言模型对话的工作,"Movellus的费萨尔指出。
模型将随之跟进,智能体将部署这些模型。"晶圆厂目前还没有生成这些AI模型,"Silvaco首席执行官华利·莱恩斯说。"每个人都想用Claude来做所有事情。人们在模拟各种各样的东西。这里的区别在于,在物理过程中,你有基础的器件物理学来控制工艺变化的影响。我们有多年的SPICE建模和BSIM模型积累。我们有用一种叫做Jump的语言交流的TCAD工程师,他们自成一派文化,往往倾向于继续沿用他们一直以来的做法。你需要的是能够从合成数据中生成真实模型的创新型人才,这些模型可以用真实数据进行校准,从而构建出一个虚拟模型。"
"在某些情况下,你真的更愿意卖出一个智能体而不是软件,"莱恩斯说。"目前还不清楚EDA行业是否真的有人是基于Token而非传统定价模式来定价的。我认为没有人这样做,但他们的客户都在谈论这件事。销售一个能够自动完成校准并将我存储的合成模拟数据与物理数据进行比对的智能体。我们看不到物理数据,但我们确实知道我们的智能体消耗了多少Token,所以这是一种EDA能够销售产品、获得收益,同时没有人能看到公司想要保密的底层数据的方式。"
未来展望
目前AI领域正在发生的一些变化看起来颇为熟悉。
"你可以将其与2000年代初的情况相类比,当时的吉赫兹大战突然演变成了多核大战,"Movellus的费萨尔说。"当时人人都以为一切都会变成GPU,然后又变成,'不,会是CPU和GPU并存。'我们每隔10到15年就会经历一次同样的架构变革。最大的区别在于,那时候一块芯片就是你在光罩尺寸范围内能做到的一切。现在的芯片就是整个数据中心。你可能有许多GPU像一块芯片那样协同工作。所以瓶颈将会转移到数据传输上,一旦这个问题得到解决,瓶颈又会转移到别的地方。"
不过,不同之处在于各个部分如何被组装起来,以及未来它们将如何被使用。"我们可以谈谈智能体工作流在提升生产力方面有多出色,还有整个编排方面的讨论,"Arteris的西温斯基说。"你有多智能体解决方案,跨领域进行编排,这非常有趣,因为你在努力让模拟设计师、验证人员和形式验证人员使用同一种语言交流。希望借助智能体AI,这会变得更容易,因为大家对某件事有了共同的理解。智能边缘正在到来,你将有充分的理由去优化并创造更多独特的软件。"
最大的未知数在于,工程师究竟将以何种方式融入这个充满AI智能体的世界。所有迹象表明,他们的专业知识仍将不可或缺,但他们的工作将如何改变尚不明朗。
"借助多智能体协调,未来我们将拥有虚拟芯片公司,也会有虚拟AI工程师协同合作,组成这种智能体组织,"ChipAgents的王说。"那么,未来芯片公司的一部分或许也会是虚拟的。如果你看看物理AI和机器人技术,机器人技术尚未真正腾飞的原因之一就是它们没有专用芯片。如果我打开冰箱门,只需要一秒钟。机器人却要花20秒。所以人们就放弃了。但未来,机器人公司将打造自己的专用集成电路(ASIC)。芯片引擎,这种AI平台,对于赋能这些物理AI机器人公司将至关重要。他们将能够自己制造芯片。"
Q&A
Q1:芯片设计中的AI智能体是什么?
A:AI智能体是指越来越智能化、专业化的AI系统,可以用于芯片设计的特定任务,如优化功耗、验证设计、调试问题等,相比大语言模型更高效,可以配合使用小型语言模型完成专项工作。
Q2:为什么芯片设计要用小型语言模型而不是大语言模型?
A:因为大语言模型部署智能体集群进行持续推理和独立行动对大多数芯片设计应用来说是过度配置,效率不高。小型语言模型针对特定任务训练后更精准高效,比如天气预测就不需要用大语言模型。
Q3:人类工程师在AI智能体时代还有作用吗?
A:有,人类工程师仍是让AI发挥作用的关键纽带。他们负责指导智能体如何协同优化,验证设计结果,并在关键节点介入判断,AI更多是增强而非替代工程师的能力。
