随着AI安全领域的担忧不断升级，开源模型已成为业界争议焦点。由于开源权重模型可自由分发且难以管控使用方式，部分实验室将其视为潜在威胁。
然而，在上周于拉斯维加斯举办的Ai4大会上，三位全球最受尊敬的AI研究者——诺贝尔奖得主杰弗里·辛顿、World Labs首席执行官兼联合创始人李飞飞，以及Coursera联合创始人吴恩达——就此议题公开表态。尽管三人在具体策略上存在分歧，但都为保持AI开放性提出了有力主张。
三位学者共同关注的核心问题，是防止少数几家主要AI公司掌控技术进步的节奏。吴恩达表示，他担忧AI领域出现类似移动操作系统的垄断格局——就像苹果和谷歌控制移动操作系统那样，少数公司主导平台后，创新往往会放缓，并对生态系统的走向产生决定性影响。"我不希望出现守门人，"吴恩达说，"那会限制我们所有人获取AI的渠道。"
吴恩达的解决方案是维持多元竞争格局，让多家公司和模型相互竞争，而非让少数玩家主导市场。"如果要给出一个建议，那就是推动开放，"他说，"AI是了不起的技术，我希望它能被所有人所用。"
不过，辛顿对开源权重模型能否实现上述目标持保留意见。他明确区分了开源软件与开源权重模型的概念：开源软件公开底层代码，供人审查和修改；而开源权重模型则是将训练好的AI模型参数公开发布，两者性质截然不同。
"开源软件很好，公开代码后很多人可以审查，发现漏洞。但开放权重意味着训练一个大模型后直接公开参数，这完全不同，"辛顿说，"我反对开放权重，因为这让人们可以轻易拿这些训练成本极高的大型基础模型，花很少的钱就能将其训练用于网络攻击等恶意用途。"
尽管如此，辛顿也承认开源权重模型已是既成事实。"我认为那场仗已经输了。我们现在已经有了开源权重模型，阻止人们获取这些大模型的门槛——即训练基础模型的高昂成本——已经消失了。为时已晚。"
接受现实并不意味着忽视风险。辛顿的立场很明确：AI将持续进步，这总体上是件好事，它将提升生产力，改善教育和医疗。但他也强调，对AI潜在负面影响的担忧是合理的。"担心AI可能带来的不良影响，以及比我们更聪明的智能体可能做出的事情，我认为这并不过分。把持有这种想法的人贴上'散布恐惧'的标签，才是不公平的。"
吴恩达则持不同观点。他认为，问题的关键不在于开源模型是否有风险，而在于谁掌控访问权限、谁将赢得市场。成本更低的模型将占据优势。他警告称，如果中国的开源权重模型在亚洲、非洲及发展中国家获得广泛采用，将可能影响数十亿人对民主、自由和人权等理念的认知。
"我希望美国能推动竞争力和开源AI的发展。AI事实上是一种巨大的软实力来源，"吴恩达说，"但我的担忧是，由于美国国内大量的游说活动和恐惧情绪，在美国构建开源AI正越来越难以与来自中国的开源权重模型竞争。如果中国找到了一种根本上更具成本效益的AI构建方式，那么更低成本的方案将天然具有商业采用优势。"
李飞飞对这一非此即彼的论断提出了异议。"将开放与封闭对立起来是非常危险的，"她说，"对于复杂的软件系统和科学体系而言，现实要微妙得多。"
李飞飞以核物理为例：科学论文公开发表，铀却受到严格管控，而实验室工作则介于两者之间。她由此指出，开放并不必然是全有或全无的选择，生态系统的不同层次可以采用不同程度的开放方式。
她还以人类基因组计划为例，说明公私机构协作的价值：由此产生的知识成为一个公共平台，制药公司可以从中盈利，科学家可以推进研究，社会整体也因此受益。
"我认为我们必须将AI作为一种基础设施来对待，"李飞飞说，"我们需要在科学发现、教育、全球合作以及为企业家创造商业模式等方面保持一定程度的开放，同时也接受封闭源代码系统的存在。那种'只能接受一种模式'的争论是个伪命题，我们需要更加细致入微的讨论。"
尽管三人观点不一，但在一点上达成了共识：某种程度的监管是必要的。"我们希望AI的发展方向是造福人类，监管将有助于实现这一目标，"辛顿说，"不能把决定AI应该如何发展的权力交给埃隆·马斯克和马克·扎克伯格这样的人。"
Q&A
Q1：辛顿为什么反对开放AI权重模型？
A：辛顿区分了开源软件与开源权重模型的概念。他认为，开源软件公开代码，便于社区发现漏洞，是有益的；但开放权重模型意味着将训练好的大模型参数直接公开，这让人们可以花费很少的成本，在已有基础模型上进行微调，用于网络攻击等恶意用途。不过他也承认，目前开源权重模型已是既成事实，"那场仗已经输了"。
Q2：吴恩达担心AI领域出现什么问题？
A：吴恩达担心AI领域出现类似移动操作系统的垄断格局，即少数几家大型、资本雄厚的公司控制技术访问渠道，成为"守门人"，从而限制创新并影响整个生态系统的发展方向。他还警告，如果成本更低的中国开源模型在发展中国家获得广泛普及，将可能对数十亿用户的价值观认知产生影响，因此呼吁美国加强开源AI领域的竞争力。
Q3：李飞飞对AI开放与封闭之争有什么看法？
A：李飞飞反对将AI开放与封闭对立起来的非此即彼思维，认为这是一个"伪命题"。她以核物理和人类基因组计划为例，说明不同层次的生态系统可以采用不同程度的开放策略。她主张，AI应作为一种基础设施，在科研、教育、全球合作与商业模式之间寻求平衡，既保持必要的开放，也接受封闭源代码系统的合理存在，关键是要有更细致、更有层次的讨论与监管。
