一批科技公司联合发布公开信,呼吁政策制定者不要禁止开源人工智能模型。
此举源于有报道称,特朗普政府部分官员寻求限制此类算法的使用。全球最受欢迎的许多开源AI模型由中国企业开发。据Axios报道,美国商务部去年曾考虑封锁这些企业软件的访问渠道。
这封公开信发布在英伟达官方网站上,微软、IBM、Meta及十余家其他科技公司同样联署支持,Linux基金会等多个非营利行业组织也在其中。
信中写道:"我们在AI领域的领导力,不在于某一个前沿AI模型,而在于美国能否构建一个强大、开放的生态系统,并将其渗透至各行各业。这对于在全国范围内创造创新与繁荣机会至关重要。"
这封公开信还列出了联署方反对禁止开源AI的多条理由。其一,开源模型可以降低对购买专有大语言模型的依赖,从而使各类应用项目的开发成本更加可控;其二,开源大语言模型具备高度可定制性,并可部署在私有基础设施之上。
信中还表示:"开放权重让众多组织能够构建、调整和部署先进模型,从而在模型开发者之间,乃至在云计算芯片、应用程序和服务层面形成竞争格局。这种竞争能够激发创新、降低成本,并将AI的红利广泛惠及整个经济体系。"
公开信同时正视了开源AI模型带来的风险。联署方承认,追踪此类算法的使用方式存在困难,可能给遏制网络犯罪带来挑战。黑客在理论上可以借助先进的开源大语言模型来加速发动网络攻击。
对此,公开信指出,开源许可模式本身也可能成为提升网络安全的重要力量。当一个大语言模型的代码公开可查时,"广泛的研究者社区"便能主动搜寻其中的安全漏洞,减少未修复漏洞的数量,从而降低模型遭受网络攻击的风险。
信中还涉及了蒸馏技术这一话题。该技术是指研究人员利用前沿大语言模型的提示词响应来训练规模更小的模型。一位白宫官员近期表示,具备强大代码能力的新型开源大语言模型Kimi K3,正是从Anthropic公司的Fable 5模型蒸馏而来。
公开信对此表明立场:"非法提取闭源模型价值的行为确实值得警惕,但相关问题应通过有针对性的法律和商业框架来解决,而非对在AI创新中发挥重要作用的技术手段实施一刀切式的限制。"
联署方还提出了若干政策建议,包括建议监管机构降低研究人员获取算力基础设施的门槛,并推动数据集等AI训练资源的开放共享。
Q&A
Q1:英伟达等公司为什么反对禁止开源AI模型?
A:联署方认为,开源AI模型可以降低应用开发成本,减少对专有大语言模型的依赖;同时具备高度可定制性,可部署在私有基础设施上;还能在模型开发者、云计算芯片、应用及服务之间形成竞争,进而激发创新、降低成本,并将AI红利惠及更广泛的经济领域。他们认为,禁令不是解决问题的正确方式。
Q2:开源AI模型在网络安全方面有哪些风险和优势?
A:风险方面,开源AI模型难以追踪使用方式,黑客可能借助先进的开源大语言模型加速网络攻击。但优势方面,代码公开可查意味着更广泛的研究者社区可以主动发现并修复安全漏洞,从而减少未修复漏洞的数量,整体上有助于提升模型的安全性。
Q3:公开信中提到的蒸馏技术是什么?
A:蒸馏技术是指研究人员利用前沿大语言模型的提示词响应结果,来训练一个规模更小的模型。公开信认为,针对非法提取闭源模型价值的行为,应通过有针对性的法律和商业框架来应对,而不应对蒸馏这一在AI创新中广泛应用的技术手段实施全面限制。
