你可能在使用聊天机器人时，并不会去想背后到底是谁掌控着这个模型。直到某次更新改变了它的回答方式，或者你想处理一些私密内容，希望把数据留在自己的电脑上，这时候问题才会浮现出来。
开放权重模型允许你下载预训练好的AI并自行运行。你需要相应的软件和能够承受运算负荷的计算机，但你能保留一份可用的副本。虽然聊天机器人获得了大部分关注，但图像和视频生成器同样也存在开放权重的选择。
不过，下载一个AI模型并不意味着你获得了无限制的使用许可，也不代表模型制作过程中的一切都会被公开。确实，你在使用AI方面获得了更多自主权，但"开放"这个词依然留下了很多未说明的内容。以下是关于开放权重模型的介绍：它们是什么，你能用它们做什么，以及在尝试之前需要考虑哪些问题。
什么是开放权重模型，它们如何运作
在聊天机器人中，AI模型是生成答案的软件。在训练过程中，模型通过调整数十亿个被称为神经网络权重的数值来学习模式。当你提出问题时，模型会利用你的提示词和这些已学习的模式来预测接下来应该出现什么文本，一步步构建出答案。
包括ChatGPT和Claude背后公司在内的闭源模型开发者，会将权重保密。而开放权重模型则会将训练好的权重公开发布。这意味着你可以下载这些权重，并使用兼容软件运行自己的副本。
"一旦你把模型开放权重，所有权重就会散布在互联网各处，比如Hugging Face和其他服务器上，"AI公司Mistral的科学副总裁皮埃尔·斯托克（Pierre Stock）告诉CNET。"所以几乎不可能切断对这个模型的访问。"
有了免费的模型和应用程序，你可以在本地聊天，无需订阅或支付使用费用。更重要的是，完全本地化的设置也能让你的提示词和文件远离AI提供商的服务器。
如果你不擅长技术，也不必担心，因为你不需要编写代码或打开终端就能完成这些操作。像LM Studio、Ollama和Jan这样的桌面应用程序，让你通过简单的安装就能下载并运行开放权重模型，在你的Mac或PC上提供类似ChatGPT的界面。你仍然需要一台能够处理所选模型的计算机。一旦安装完成，你就可以继续离线聊天。
如果你懂得操作方法，还可以在许可证允许的范围内，通过进一步训练来调整模型。你不必从零开始训练一个全新的模型。
开放权重与开源的区别
人们常常将这两个术语互换使用，但它们的含义并不完全相同。开放权重模型也可以是开源的，但仅仅公开权重并不符合开源促进会（Open Source Initiative）的定义。
开发者必须分享用于训练和运行模型的代码。他们还必须提供足够的训练数据信息，使具备相应技能的人能够构建出一个运作方式大致相同的模型。相关条款必须允许人们使用、研究、修改和分享该模型。
根据开源促进会的定义，开发者不必分享他们用来训练模型的数据。自由软件基金会（Free Software Foundation）则认为，这应该是协议的一部分，用户应该能够自由使用和修改数据本身。
一些开放权重许可证限制商业用途，这意味着某个模型可能可以免费下载，但不能用于你想要销售的应用程序。这种限制会使其不符合开源促进会的定义。开源许可证仍然可以要求你在分享修改版本时保持相同的条款。
哪些模型拥有开放权重
目前，在独立AI测试公司Artificial Analysis的智能排名中，中国模型在开放权重模型方面处于领先地位。你可能已经了解DeepSeek，但还有月之暗面（Moonshot AI）的Kimi K3和阿里巴巴的Qwen3.8系列，它们都提供可下载的权重。
一些美国的替代方案来自那些大家熟悉的聊天机器人背后的公司。OpenAI除ChatGPT外还单独提供gpt-oss模型，谷歌则有Gemma模型。Meta在其Llama模型之外，还推出了Muse Glimmer，并新增了Muse Spark Open，而英伟达则有Nemotron。
你也不必局限于这些聊天机器人巨头。美国初创公司Reflection发布了Beam，其权重现已可供下载。另一家美国初创公司Thinking Machines Lab则提供其模型Inkling。
欧洲方面也有一个竞争者——法国的Mistral AI。其可下载的模型包括Mistral Large 3和较小的Ministral 3系列。更新的Mistral Large 4，被称为Le Chonk，现已提供可下载的权重。
并非这里提到的每个模型都能在笔记本电脑上运行。一些较大的模型需要服务器级硬件，而较小的版本可以在个人计算机甚至更小的设备（如手机）上运行。
存在哪些局限性
开放权重模型即使在你的笔记本电脑上离线运行时，仍然可能出现幻觉问题。它也可能携带训练过程中产生的偏见。开发者可能在公开权重的同时对训练数据保密，使外部人员无法完全核查其中包含的内容。
性能因模型和任务而异，所以仅凭开放性并不能判断它是否能胜过闭源的替代方案。
能够修改模型的自由，也意味着人们可以削弱甚至移除它的安全防护措施。
"护栏对于开放权重模型来说是必要的，"斯托克说。当我问他，如果人们在下载模型后可以移除这些保护措施，该如何保证安全时，斯托克表示："经过大量工作，你可以部分突破这些护栏，"并将这种努力程度比作自行微调模型。
一旦人们下载了副本，原始开发者对接下来会发生什么的控制力就很有限了。公司可以切断某个滥用其在线服务的人的访问权限，但发布一个更安全的替代版本并不会自动更新每个人已下载的版本。
然而，正是这些下载让独立研究人员能够更深入地检查模型并找出问题。研究人员可以自行测试修改方案，而不必依赖开发者去调查某项投诉。
微软和其他公司在一封公开信中提到了这一好处，为开放权重进行辩护，这封信是在有报道称美国可能限制中国模型之后发出的。他们认为，保持这些工具的可用性有助于安全团队防御利用AI发起攻击的攻击者。
"当你把一个模型开放权重时，你本质上是在让整个生态系统共同进步，"斯托克告诉CNET。
开放权重模型对你有用吗
开放权重模型可以像云端模型一样草拟邮件、总结文档、分析本地文件并协助编程。不过，当你在本地运行时，它的速度以及处理长文档的能力取决于模型本身以及你计算机的内存和处理能力。
较大的模型通常在内存充足或配备强大GPU的计算机上运行更流畅，比如拥有16GB或36GB内存的Mac，不过较小的模型可能在8GB内存的Mac上也能运行。
如果你已经拥有必要的硬件，那么考虑安装一个开放权重模型是值得的。但如果你需要购买新电脑才能运行它们，就要权衡这笔花费与每月20美元的云端模型订阅费用之间的性价比。
你也可以通过开发者自己的网站来使用一些开放权重模型，这些网站会代你运行模型，比如DeepSeek和Kimi。这比自己下载和运行模型要省事得多，但你的提示词会传送到提供商那里。
如果你只是偶尔需要帮忙写邮件，并不介意使用在线服务，那么托管式聊天机器人可能就足够适合你了。ChatGPT、Gemini和Claude都提供免费计划，所以避免订阅费用并不一定需要你自己运行AI。
开放权重让你有机会掌握更多主动权，更不用说能把敏感文件留在自己的设备上。一个即使在没有网络连接时也能继续工作的助手听起来很棒。即便开发者停用了在线版本，你仍能保留自己喜欢的模型，这一点同样令人满意。
"你不会想生活在这样一个世界里：有人能切断你对自己模型的访问权限，"斯托克说。
未来的前景也同样令人期待，开放权重模型正逐渐被安装到更小的设备上。谷歌的Gemma模型就包括适用于手机和笔记本电脑的较小版本。Mistral也有类似的一系列模型，其中包括专为特定用途和设备设计的专用模型。
"我们也有专门用于音频处理的模型，"斯托克说，"这些模型甚至可以装进智能手表里。"
