要点摘要：
本地推理和模型路由有助于控制成本并保护敏感数据，但芯片架构师必须考虑内存容量、持续性能、模型变化和部署安全性等因素。
对于EDA而言，模型质量取决于干净可信的设计数据以及与工作流的集成，而不仅仅是选择更大的模型或微调其权重。
开放权重可以减少对专有AI服务的依赖，但它们并不会自动提供开放的训练数据、源代码或无限制的使用权利。
随着快速变化的工作负载给内存、互连和计算灵活性带来压力，开放权重AI模型正在为芯片架构师带来新的挑战。
关注焦点已不再仅仅是峰值TOPS。需要考虑的清单已经扩展，包括如何最好地为需要大量内存的模型提供支持、在长上下文和多智能体推理中保持持续性能、支持快速变化的数值格式和稀疏计算，以及将模型、数据和工具隔离作为安全边界的一部分。模型架构可能在数周内发生变化，而芯片需要数年时间，因此赢家将构建可适应的软硬件平台，而不是针对可能在流片前就已过时的基准进行优化的加速器。
庞大的数据中心并非AI驱动科学进步的先决条件。科学研究的基础设施需求不同于服务数百万用户的消费级AI平台。开放权重AI模型——其训练参数是公开可用的——可以在本地部署，有可能扩大访问范围、提高计算效率并支持独立研究。
开放权重也引发了关于控制权、成本以及谁可以在AI技术基础上进行构建的问题。
Expedera首席科学家兼联合创始人Sharad Chole表示，发布权重可以减少供应商锁定，因为它允许用户自行托管模型或选择服务提供商。“如果你想使用某项服务，或者自己托管模型，那么在谁为你提供下一个Token或谁为你处理下一个请求方面，就不存在供应商锁定问题。但这其中也涉及地缘政治和投资层面的因素。还有一种推动开放硬件的趋势，比如Meta等公司所做的，以支持不同的竞争性解决方案提供商。截至2026年9月，规模更大的开放权重模型主要来自美国以外，即欧洲或亚洲，并且我们正朝着万亿参数模型的方向发展。”
Arteris战略营销副总裁Guillaume Boillet表示，开放权重模型使训练好的参数可供下载，让用户能够在自己的硬件上运行和调整模型，而不是依赖提供商的API。“它们不一定是开源的：训练数据、代码和使用权利可能仍然受到限制。”
Axiomise首席执行官Ashish Darbari表示，开放权重AI模型发布的是训练好的参数，而开源发布旨在公布完整的“配方”，封闭模型两者都不公布。
具有代表性的开放权重模型发布包括Meta Llama、阿里巴巴Qwen、DeepSeek、Mistral、谷歌Gemma、微软Phi以及OpenAI的gpt-oss系列。Darbari指出，OpenAI报告称gpt-oss-120b可以在单个80GB GPU上运行，gpt-oss-20b可以在16GB内存的设备上运行；两者都使用MXFP4量化。“这些规格说明了部署选项的范围正在扩大，但仅仅内存适配并不能证明有用的性能。”
一些美国AI公司使用知识蒸馏技术从更大的“教师”模型中开发较小的模型，但具体方法各不相同。较小的模型也可能是独立预训练的，或通过多种技术组合开发而成。大规模预训练仍然是计算密集型的，而蒸馏和后训练是模型开发过程中的重要环节。
Chole表示，最大的模型继续朝着万亿参数规模推进，而面向设备端或本地AI的模型则常常被蒸馏成更小的版本。“这并不是说突然间我们就会有1000亿参数的模型打破所有基准记录，”他说。他提到了一项将4000亿参数的DeepSeek-C模型蒸馏为80亿参数Qwen模型的尝试，同时指出模型蒸馏本身并不是什么新鲜事。更重要的一点是，用户现在在模型规模、能力和部署方式上有了许多选择，而最大的模型并不一定是每项任务的正确选择。
Chole指出，在Hugging Face这个“AI模型界的GitHub”上，过去两年中主要公司发布了大约250个开放权重模型，这还不包括量化变体或小型公司发布的模型。
但数量丰富并不等同于可用性，要将这个不断扩大的模型目录转化为有用的设计智能，需要EDA团队提供可信的领域数据、工作流上下文和严谨的真实验证标准。
从通用模型到EDA工作流
Synopsys人工智能与机器学习副总裁Thomas Andersen表示，无论是商用还是开源的，通用大语言模型都不是为芯片设计任务而构建的。“它们中很多都非常擅长完成常见任务。它们非常擅长制作PPT和总结内容。它们擅长编程，这是显然的，因为外面有大量的代码。这些已经被优化到极致。但它们不一定非常适合硬件开发，甚至连RTL编码都不行，因为现有的RTL数量远远不及软件代码那么多。正因如此，包括EDA供应商和客户在内的每一方，都需要添加自己的数据，而这些数据显然是专有的。这与那些把公共知识纳入训练数据的模型有本质区别。除了权重本身之外，还存在预训练和后训练的能力，你可以在其中添加数据，这是一个重要的关键点。否则，它就行不通。这就像问聊天机器人一个问题，它并不总能给出正确答案，因为它掌握着相互矛盾的数据，会去搜索互联网，而人们在网上会说各种各样的话。什么才是真实可信的信息？”
准确的结果既依赖于查询本身，也依赖于源数据的质量。
Andersen说：“源数据本身需要非常清晰、非常精准。在互联网上，这样的数据并不存在。你去Reddit上问一个问题，人们会给出五种不同的答案。这就成了大语言模型的问题所在。在我们的情况下，我们显然需要非常精准的数据。在企业环境中则不同，你对流程、工具等都有更好的文档记录，所以会容易一些。没有这些，它就无法正常工作。尽管如此，对普通模型进行常规训练仍然是绝对必要的。”
话虽如此，开放权重模型在芯片设计中仍将占有一席之地。Andersen解释道：“开放权重模型仅仅意味着你拥有一个可以训练其权重的大语言模型。智能体是围绕这个大语言模型构建的一个循环，然后执行特定任务，所以它是达成目的的一种手段。有多种方法可以训练模型，这更像是在调整答案的正确性，但它本身并不会增加数据。还有其他方法可以添加数据。一旦你拥有了一个像人类一样无所不知的大语言模型，那么智能体就意味着你在构建一个本质上优化你工作流程的智能体循环，它会按照人类的方式执行一系列任务，而不是一次性完成的事情。或者，你只是提出一个问题，它就给出答案。”
这种模型本身与围绕它的工作流之间的区别，直接引出了一个实际的部署问题：EDA团队应该如何在兼顾能力、成本和控制权的同时，将每项任务路由到合适的模型？
西门子EDA执行副总裁兼EDA IC软件负责人Ankur Gupta指出，无论是大型芯片设计公司还是小型公司，任何非常注重成本的人仍然希望进行优化。“他们愿意为最好的商用模型付费，只要它适合任务需求，这样关键架构师就能解决最棘手的问题。这被称为模型路由。我们知道开放权重模型非常有用，它们很有效。EDA公司正在尝试使用它们，我们当然也是如此。我们的许多开发人员都在广泛使用开放权重模型，因为你不需要为每一项任务都花一大笔钱。我在我们的客户身上也看到了这一点。他们已经不再向所有人开放能力最强的模型，而是在内部进行模型路由。我们还没有这样做。”
Gupta建议从冰山的角度来思考这个问题。“你在水面之上看到的是GPU、成本和Token等等，这些都出现在每位首席信息官的仪表盘上，这部分内容并没有消失。而水面之下同样重要的部分，是将芯片与系统以及设施连接起来。这其中存在损耗，你必须想办法从中收回成本。总会有人想出办法让Token成本变得非常划算，就像整个半导体行业一直以来的运作方式一样，不断构建功能并让这些功能变得更便宜。这只是时间问题。”
Rambus院士兼杰出发明家Steven Woo认为，开放权重AI模型对芯片设计师非常有帮助。“看看OpenAI等公司利用Jalapeno芯片和自家工具取得的成功案例，一个更小、更灵活的团队能够更快地完成更多轮迭代。在九个月内设计出那款芯片并且一次成功运行，这真是令人难以置信。我们知道这个领域一直在进行相关工作，而且工具正在变得越来越好。”
需要注意的是，企业需要掌控那些能使其区别于竞争对手的数据。Woo说：“最初，当你必须通过网络访问这些工具时，并没有私密的、封闭的区域来确保公司数据留在内部，许多公司因此不愿让员工使用这项技术。但行业听取了意见，表示：‘好吧，现在我们要设立封闭区域，确保你的信息不会泄露。’关于如何设计芯片的一般性知识——例如，编写RTL来实现特定功能以及进行布局布线——外面有很多这样的例子可以用来训练大语言模型或AI实体来完成这项工作。不同的行业和不同的公司在解决问题时有着非常具体的方法，这些是不能外泄的，因为它们更像是商业机密。那么问题就变成了：‘我该如何采用这些在更通用数据集上训练的模型，并对其进行调整——真正地进行微调——使其符合我所做工作以及我的客户所关心事项的具体需求，同时又不能让这些数据离开封闭区域？’我希望这类问题能够得到解决。”
开放权重AI模型在EDA工具流程中也可能有助于控制成本。Cadence人工智能院士Chuck Alpert表示：“成本是一个大问题，我们希望我们的客户付钱给我们，而不是AI供应商。这个想法是，开放权重模型将有助于帮助客户控制成本。我们怎么做到这一点？如果你有一个开放权重模型，你可以把它部署在一台机器上，永远不离开你的网络。如果你使用的是，比如说Claude Opus（Anthropic的一款封闭专有模型），你就必须离开网络。一些客户——或许尤其是国防客户，他们对自己的信息非常敏感——是一个生态系统的一部分，他们表示希望使用智能体AI，但不希望离开自己的系统。这样的客户必须使用Openlayer（一个企业级AI评估、可观测性和治理平台）。目前还存在一个问题，即开放权重模型可能表现不佳。它们正在变得越来越好，我发现其中一些已经相当不错了。但它们仍然落后，这正是对开放权重模型进行一些训练可能带来真正改进和重要发展的地方，而我们正在积极推进这项工作。”
这里的关键之一是明确界定问题。Movellus首席执行官Mo Faisal表示：“如果你想想芯片设计是什么，它涉及一个庞大的多物理场组成部分，然后你将其提炼成一个数学模型，这个模型非常庞大——可能有10万行晶体管模型代码。在那之后，剩下的就只是矩阵乘法了。何时以及如何实现，我不确定，但这很可能会是某家正在构建半导体专用模型的新创公司所做的事情。他们可能会先开放一些较旧的、或许是基于180纳米训练的模型，你可以用它来构建那种工艺节点的芯片，而不开放适用于更先进工艺节点或更先进架构的模型。谷歌、微软或Meta这样的公司很可能会带来一些令人意外的举措。既然它们确实拥有内部使用的硅设计模型，为什么不能开放这些硅模型的权重呢？”
这种可能性将讨论的焦点从开放权重模型能否服务于EDA，转移到了其商业模式如何塑造这些模型被部署的位置——以及部署在何种硬件上。
区别特征
开放权重模型和封闭权重模型可以使用相似的底层架构。
Quadric首席营销官Steve Roddy表示：“架构是相同的——相同的Transformer模块、相同的注意力机制、相同的量化技巧。芯片架构师在查看两者时，从计算图上是无法区分它们的。两者的区别完全在于商业模式的不同。一方发布参数供下载，另一方则按Token出售访问权限。”
正是这种差异驱动了部署方式。Roddy说：“在实践中，中小型开放权重模型是那些技术娴熟的用户——主要是工程师——下载并在自己硬件上运行的模型，其动机绝大多数是出于成本考虑。有些人在本地运行是为了保护提示数据的隐私，这在受监管行业中很重要，但目前Token经济学才是最大的驱动因素。”
Roddy预计封闭模型供应商将会争夺这部分本地Token流量。“如果看到大型私有模型公司协调拆分部署——即在用户自己的硬件上运行一个中型前端模型，而在云端由大型模型处理本地模型无法处理的部分——这不会让任何人感到意外。那些大型模型公司绝对不希望其他供应商或其他模型在本地运行，从而成为守门人，控制对云端大型付费模型的访问。定价激励很明显——为用户在自己机器上、用自己的电力生成的Token提供大幅便宜（甚至可能是免费）的价格，从而大幅削减数据中心租赁账单。当一条随口发的推文（萨姆·奥特曼，2025年4月）提到用户输入‘谢谢’所产生的成本高达数千万美元时，将推理任务转移到边缘设备的压力已经不言而喻。”
所有这些都给本地机器带来了压力，要求其运行更大的模型，或者运行被分解成更小模型的那些模型部分。Roddy说：“这个世界无法足够快地建设数据中心，而且也不会这样做。但我们可以在每个家庭和办公室中接入一台家电大小的设备。这开辟了一个新的计算类别——智能体计算机，其架构专门围绕运行AI模型作为其主要工作负载而设计，而不是作为附加功能强加在为其他用途设计的手机或PC上的事后补充。今天的设备将推理视为客人。下一代设备将把它视为主人。芯片架构师应该问的问题不是‘我该如何在我的SoC上添加一个NPU’，而是‘当模型执行成为主要任务时，一个系统应该是什么样子’。内存带宽和容量，而不是TOPS；持续吞吐量，而不是突发性基准测试；适用于持续负载而非间歇负载的热包络；以及一个能够在几个月内吸收新模型架构而无需重新流片的软件栈。”
这里的一个问题是芯片周期与模型周期之间的不匹配。Ayar Labs产品管理总监Vishal Chandrasekar表示：“如果你正在为某个特定模型设计芯片，而模型每周都在变化，或者最好的情况下每月变化，而你的芯片设计周期在最好的情况下也要2.5年，那么你如何在这样的时间跨度内赶上变化，是很难想象的。与此同时，2019年制造的芯片如今仍然有价值，因为现在你可能受限于算力。所以今天发布的一个模型，即使两年内又出现了10个新模型，它对某些应用仍然是有用的。”
这种不匹配使得适应性成为核心设计要求——这也勾勒出了芯片架构师在决定采用开放权重AI平台之前必须回答的实际问题。
ChipAgents首席产品官Solaiman Rahim表示，芯片设计师应该了解权重是开放的，因此任何人都可以使用它们。“不仅仅是权重，模型训练所用的任务列表和数据集也会随模型一同提供。所以，如果有人想重建这个模型，他们是可以做到的。开放权重模型的目标是给你一个基础模型，你可以根据自己的需求对其进行微调，性能和成本会因模型而异。人们认为开放权重模型性能差、成本低，但事实并非如此。如果你看看最新的开放权重模型GLM 5.3，它的性能相当不错，大约在70%到80%的范围内，但成本也非常高。并不是因为它是开放权重的，你就必然会得到最低的性能和最低的成本。许多开放权重模型的成本和性能实际上取决于你使用的是哪个模型。但它是一个很好的基础模型，可以在此基础上进行微调并构建你的工作流程，以获得你想要的结果。你还需要弄清楚如何将开放权重模型整合到你的基础设施中。”
根据安全需求以及公司是否愿意与其提供商共享数据，部署可以是本地部署，也可以是在虚拟私有云等云环境中进行。Rahim说：“如果你使用AWS，它们的云是非常安全的。许多客户在AWS或其他云提供商那里使用VPC，所以你需要决定你想如何部署那个模型。仅靠模型本身不足以启动一项具有成本效益的设计任务。你需要自己构建本体层，你必须构建工作流程。我们的平台会自动完成这些工作，这样你就不必花费时间和投入去重新发明30年前EDA建立时的那套方式。当年每个人都自己做综合，后来他们开发出了Design Compiler，这让他们意识到可以用一个工具就完成，不需要重新发明一切。同样的事情正在发生。我们有自己的本体、自己的工作流程和自己的模型层。我们的模型层可以根据任务自动为你挑选最好的模型。”
Arteris的Boillet表示，架构和设计团队应该询问的其他考虑因素还包括，明确系统必须支持的模型范围，而不是预测单一的未来模型规模。“重要的变量包括活跃参数数量、精度、上下文长度、模态、并发性和延迟。团队应该思考，一个更小的专用模型是否足够，工作集将驻留在哪里，以及在真实负载下能耗将如何变化。有意义的衡量标准是每个有用结果所消耗的能量，而不仅仅是TOPS或TDP。”
综合来看，这些工作负载变量将模型选择变成了一个系统架构问题，直接影响到内存、计算、互连和验证等方面。
Axiomise的Darbari指出，如果更多推理任务从超大规模数据中心转移出去，可能会将推理芯片的重心转向机构服务器、工作站、笔记本电脑和边缘SoC，这些设备将在本地运行参数规模从10亿到1000亿的混合专家模型，并带来一系列架构层面的影响，例如：
内存带宽而非浮点运算次数，成为约束瓶颈；
稀疏激活改变了运算方式；
指令集架构和数据通路中的低精度计算；
异构SoC作为交付载体；
“迷你冰箱式服务器”成为一个真实的产品类别；以及
验证和功耗性能面积签核需要处理混合专家风格的稀疏流量、MXFP4运算、128K上下文下的KV缓存压力，以及多智能体并发性，而不仅仅是密集矩阵乘法。
当团队开始估算不仅要让模型适配内存，还要在日常工程工作流中让其响应迅速地运行所需的条件时，这些架构优先事项就变得具体起来。
Boillet说：“目前，拥有200亿到300亿参数、具备强大能力的语言模型、视觉语言模型和推理模型，在量化后可以装入大约16到24GiB的内存中。在我自己在一台36GB内存的MacBook上进行的合成基准测试中，这个规模范围内的模型是可以装下的。但能装进内存并不等同于能够高效运行。要达到在日常工作和智能体工作流中取代云端模型所需的响应速度，成本仍然可能攀升至超过1万美元。芯片架构师需要根据预期应用来确定计算、内存和互连的规模，同时还要为模型组合的变化留出空间。开放权重并不会改变底层模型的运算方式。但它确实让用户能够改变精度、稀疏性、微调方式和模型结构，因此内存带宽、数据移动、数值灵活性和服务质量比单纯的峰值TOPS更为重要。一个密集模型和一个总参数量相同的混合专家模型，对系统的加载方式可能截然不同。安全方面的优先事项包括对模型文件和更新进行身份验证、保护内存和DMA路径、隔离工作负载以及支持回滚。”
结论
开放权重AI不会消除芯片架构师面临的各种权衡取舍，但它会使这些取舍变得更加明确。成功的平台将围绕可适应的模型组合、持续的内存和互连性能、切合实际的能耗与延迟目标，以及从经过身份验证的权重贯穿到运行时、工具和数据的安全性来设计。对于EDA团队而言，优势不会来自孤立地选择开放模型或封闭模型，而是来自将合适的模型与可信的领域知识、严谨的路由机制以及能够在流片之后长期持续演进的软硬件系统结合起来。
Q&A
Q1：开放权重AI模型和开源AI模型有什么区别？
A：开放权重模型只公开训练好的参数，让用户下载后在自己的硬件上运行和调整，但训练数据、源代码和使用权利可能仍受限制。而开源发布则旨在公开完整的“配方”，包括代码和数据；封闭模型则两者都不公开。
Q2：芯片架构师在选择开放权重模型时需要关注哪些硬件因素？
A：需要关注内存带宽和容量而非单纯的峰值TOPS、持续吞吐性能、适应持续负载的热包络设计，以及能够在几个月内吸收新模型架构而无需重新流片的软件栈，同时还要考虑安全隔离和身份验证机制。
Q3：开放权重模型能帮EDA公司降低成本吗？
A：可以。开放权重模型可以部署在本地网络内，不必像使用某些闭源模型那样必须离开企业网络，这对成本敏感和数据安全要求高的客户（如国防相关客户）尤其有吸引力，有助于控制Token使用成本。
