人工智能行业热情地借用了开源的语言,尽管一些最具代表性的“开放”模型,只为开发者提供了这一术语传统上所承诺内容的一小部分。
周三,在布拉格举行的开源峰会欧洲站(Open Source Summit Europe)上,开源MongoDB替代品FerretDB的联合创始人、现任开源数据库服务公司Percona首席执行官Peter Farkas提出了一个简单的请求:“不要把‘开放权重’和‘开源’混用,”他说。
“‘开源’之所以能一直是‘开源’,是因为我们保留了它背后真正的含义和自由,而开放权重并不具备这些,”Farkas继续说道。
“‘开源’之所以能一直是‘开源’,是因为我们保留了它背后真正的含义和自由。”
这一区分之所以重要,是因为开放权重模型正成为生产环境AI的重要组成部分。8月,开放权重模型占Vercel AI Gateway处理Token量的56%,占OpenRouter上源自美国的Token消耗量的60%,其中中国开发的模型占了多数。
AI模型的权重是训练过程中产生的数值参数,编码了模型所学习到的模式。开放权重让开发者可以下载并在自己的基础设施上运行模型,即便模型创建者并未公开用于生产该模型的原材料或流程。
“你没有源代码,你没有训练数据,你只有这两者产生的输出,”Farkas说。“那我们为什么要把这称为开源呢?”
斯坦福大学以人为本人工智能研究院(HAI)院长James Landay也提出了类似的区分,他在8月发表的一篇HAI文章中指出,仅仅获得模型权重,远远不能满足开发者和研究人员对真正开源AI的需求。
“开放权重回答的是‘我能运行它吗?’”Landay说。“而开源回答的是‘我能信任它、改进它,并在它之上构建下一个东西吗?’”
Landay认为,就目前而言,主要的AI实验室基本上只回答了第一个问题,而在第二个问题上远远不够。
“开放权重回答的是‘我能运行它吗?’开源回答的是‘我能信任它、改进它,并在它之上构建下一个东西吗?’”
如果“开放洗白获胜”
一些公司已经走得比仅发布权重更远。例如,小米近期发布了MiMo-V2.6模型,并通过公开仪表盘直播了近一周的强化学习训练过程。该公司还发布了超过7000个强化学习任务环境,以及其强化学习训练代码和技术文档,为模型的微调过程提供了更多透明度。
MiMo-V2.6是否足以被称为“开源AI”是另一个问题。然而,小米的发布方式说明了Farkas所描述的这一光谱:“开放”的AI发布,在披露构建模型所用内容的程度上,可以存在巨大差异。
Farkas以中国的DeepSeek为例,说明了这种混乱的情况,其模型被广泛描述为开源,尽管该公司只发布了模型权重,而非从零开始复现模型所需的全部内容。
不过,他也强调,能够下载并运行这些模型本身仍然具有价值。
“开放权重是坏事吗?不,开放权重很棒。”
“开放权重是坏事吗?不,开放权重很棒,”Farkas说。“你可以在自己的环境中运行模型,可以用它们做实验,如果你理解其中的风险,也可以将其用于生产环境。问题在于,当开放权重被宣传为‘嘿,这跟开源一样好’的时候。”
Farkas认为,如果没有一个被普遍理解的边界,“开放洗白就会获胜”。他担心,如果人们接受了针对AI的、更宽松的开源含义,最终可能会削弱整个软件领域对开源的定义。
“企业将会得以把某些东西称为Apache 2.0许可,而实际上(举例来说)你在欧盟根本无法使用它,”Farkas说。“AI的开源是一件事,但如果我们在谈论开源时,让这种情况发生在核心定义本身上,那影响将远远超出AI领域。”
一个仍在讨论中的定义
开源促进联盟(OSI)于2024年发布了首个开源AI定义,确立了围绕使用、研究、修改和分享AI系统自由的相关标准。但该定义仍存在争议,尤其是在AI系统为符合开源资格必须披露多少训练数据信息这一问题上。
在听众席上回应Farkas时,今年4月就任OSI新任执行董事的Duane O'Brien承认了外界对其原始定义的批评,并明确表示OSI正在重新展开这一讨论。
“两年前我们确实有过一次讨论——那是一次重要的讨论,而在这个领域,两年已经是很长的时间了,”O'Brien说。“我们正在重新开启并进行新一轮讨论。”
OSI最近启动了一项开源AI研究员计划,任命Gabriel Toscano为其首位研究员,协助就什么构成开源AI建立共识。这一为期两年的项目将探讨对该定义进行修订的可能性,同时OSI还计划在未来两年内举办一系列社区讨论,或称“开源沙龙”。
O'Brien鼓励Farkas及其他人参与其中,同时也承认了外界对原始定义已经提出的批评。
“针对开源AI定义‘第一版’提出的批评是合理的,”O'Brien说。“我们必须继续这场讨论。”
