前沿AI能力目前集中在少数几家总部位于美国和中国的私营企业手中。对于那些既不研发也不承载领先模型的国家而言,这种集中态势造成了对外国AI提供商的依赖,而这些国家往往无法独立评估相关技术能力,其技术使用还可能受到提供商所在司法管辖区法律的限制。

公共采购为"AI中等强国"提供了一种治理这类依赖关系的机制。这里所说的"AI中等强国",是指那些在经济、外交、安全或监管方面具备较强实力,但在技术上仍依赖外国前沿AI企业的国家。相关研究发现,三类风险不成比例地落在了这些AI中等强国的国家采购方身上:供应商锁定与服务中断威胁、对前沿AI研发缺乏足够的了解、以及数据主权与信息安全风险。

为缓解这些风险,研究提出了一套采购义务框架,供政府在与AI提供商谈判时参考。这些义务包括:为评估目的提供模型访问权限、信息共享、资助可靠性研究、遵循最先进的风险管理要求、明确终止与退出条款,以及支持本国及盟友能力建设的相关措施。

分析发现,公共采购是治理前沿AI的一种有用但存在局限的机制。目前政府尚未成为前沿AI企业的主要客户,领先的开发者完全可能放弃政府合同,而不愿接受成本高昂的附加要求。与外国提供商签订的采购合同,也可能始终从属于供应商所在国的国家安全法律,而国家采购方在与领先科技公司谈判时,往往面临持续存在的信息不对称问题。同时,政府对前沿AI的需求正在增长,公共部门合同能为企业带来的不仅是收入本身,还包括财务上的可预测性以及一定程度的声誉与监管背书,这使得政府即便还未成为企业商业模式中不可或缺的一环,也已成为具有战略意义的重要客户。

核心建议是,AI中等强国应评估在采购要求上开展集体协调,能否增强各自的议价能力和国家治理能力。

要点总结

短期行动(可在12个月内启动的行动):

第一,各国政府应首先就采购要求所要应对的风险进行共同评估。参与国应比较各自在不同政府场景使用前沿AI时所面临的风险,包括但不限于对单一外国提供商的依赖、访问权限丧失的风险、对模型行为了解不足,以及数据管控方面的要求。当不同政府对风险的评估结果趋于一致时,就应优先推动建立共通的采购条款。

第二,各国政府应评估最适合开展采购协调的机构安排。七国集团(G7)、欧盟、北约以及国际AI安全研究院网络,已经为AI政策、标准和技术评估方面的合作提供了相应机制。若当前没有任何一个机构同时兼具足够的采购相关性和技术能力,那么设立专门的协调安排就有其合理性。

第三,缺乏前沿AI国家级准入渠道的较小中等强国,应探索与合作伙伴联合汇聚需求的机会,以增强自身的谈判地位。当单一政府的需求量不足以对某家前沿AI提供商产生影响力时,与其他采购方合作可以放大其采购偏好和要求在商业层面的重要性。

中长期行动(通常需要约1至5年或更长时间的行动):

第一,各国政府应明确哪些AI能力需要保持独立于任何单一外国提供商之外,并有选择性地投资于维持这些能力所需的基础设施。对大多数中等强国而言,这不太可能意味着在本国重建完整的前沿AI技术栈。一种更为现实的策略可能包括:建立起一定规模的本国或盟友算力份额、建设安全的托管设施、出于保留选择权的考虑确保能够接触多个模型系列,并引入具备微调专长以及关键工作负载迁移能力的技术人才进入政府部门。这些能力储备同时也能增强议价能力,使得未来更换提供商这一选项变得更具可信度。

第二,各国政府应增强自身评估和保障前沿AI系统的能力。这包括在国防机构内部培养保障能力和技术性AI专长,并支持建立成熟的第三方评估与保障行业。这些能力是让采购保障条款真正具有可执行性的必要条件。

第三,采购协调可以为围绕AI事件应对及AI相关故障韧性的更广泛合作奠定基础。建立共通采购要求的各国政府,将拥有一个现成的机制,用于彼此之间以及与提供商之间共享信息。随着时间推移,这有助于形成应对重大AI相关事件的共同报告方式和演练机制。

Q&A

Q1:什么是AI中等强国?

A:AI中等强国是指那些在经济、外交、安全或监管方面具备较强实力,但在技术上仍依赖美国或中国等前沿AI企业的国家。这些国家既不研发也不承载领先的AI模型,因此面临对外国提供商的技术依赖问题。

Q2:公共采购如何帮助治理前沿AI风险?

A:政府可以通过采购合同,与AI提供商谈判争取模型访问权、信息共享、风险管理要求以及退出条款等保障措施,从而缓解供应商锁定、缺乏透明度和数据主权等风险,增强自身的议价能力和治理能力。

Q3:为什么建议中等强国进行采购协调?

A:单一政府的采购需求往往不足以影响大型前沿AI企业的行为,但如果多个国家联合起来汇聚需求,就能增强整体的商业影响力和谈判地位,从而更有效地推动统一的采购要求落地。

Rand