英国议员希望设立一个监管机构,使其具备叫停危险AI模型的权力,而不是任由OpenAI和Anthropic这类公司自行决定模型是否已经越界。
在周三公开发布前与《The Register》分享的一份报告中,议会一个委员会呼吁制定《AI安全与安保法案》,赋予监管机构在模型仍处于开发阶段时进行干预的权力。
该机构可以叫停高风险的训练与测试,阻止模型部署,或在风险无法得到控制时暂停AI服务。大语言模型基于数十亿个习得参数进行训练,因此开发者并不总能预测模型在所有情况下的行为表现。
这些建议来自英国议会商业、创新、科学与贸易委员会,该委员会此前曾质询研究人员、前AI从业者,以及来自OpenAI、谷歌DeepMind、Anthropic和Meta的代表。
这四家公司均向议员保证,不会发布它们认为不安全的模型。问题在于,它们对"安全"的衡量标准并不一致,而英国法律通常也并未要求它们在发布任何产品前获取独立意见。
委员会主席利亚姆·伯恩议员表示:"我们不能给予当今的AI领军者不受约束的自由,让他们像现代版的弗兰肯斯坦博士那样,制造出超出任何人控制的危险。"
正如航空、制药或核安全领域一样,英国政府不希望仅仅依赖制造商自身的保证,而是希望建立监管体系。
伯恩补充道:"我们的听证会暴露出独立审查、事故报告以及叫停不安全系统的权力方面存在诸多漏洞。一些模型一旦发布,便无法被可靠地召回。保护工作必须在系统构建和测试阶段就开始。"
该委员会发布的报告《增长的护栏:让AI变得安全》指出了英国在AI安全方面存在的十处漏洞,包括缺乏强制性事故报告机制、独立测试人员的访问权限有限,以及对举报人的保护不足。
英国目前已设有AI安全研究院(AISI),该机构因测试全球一些最强大的模型而小有名气,但其工作依赖于企业的自愿配合,并没有权力阻止某家公司发布存在安全隐患的模型。
议员们希望AISI继续开展测试工作,同时由另一个独立监管机构承担执法职责。被列为高风险系统的开发者将须提供证据支持其安全声明,并允许独立研究人员对其进行审查。模型能力或安全防护措施的重大变更将触发进一步审查。
前AI从业者也向议员们透露,提出安全担忧可能要付出代价。委员会在听证中获悉,限制性合同、商业压力和经济上的不利因素都可能令员工不敢发声。议员们希望为举报人提供更强有力的法律保护,并推行AI事故及未遂事件的强制报告制度。
这其中也涉及不小的经济利益。委员会援引经合组织的生产率估算得出结论,AI在未来十年内有望为英国经济带来高达4000亿英镑的增长。委员会还看到了英国借助独立测试AI模型来创收的机遇,在AISI已积累的专业能力基础上进一步发展。议员们认为,更强有力的安全保障措施可能会鼓励企业——尤其是中小企业——采用这项技术。
伯恩表示:"必须要求AI公司为其安全声明提供证据支持,独立专家必须能够对其进行审查,监管机构必须拥有在风险无法控制时进行干预的权力。对议会负责的部长们必须决定,应该让公众承担哪些风险。"
议员们希望新法律能在下一个议会会期内正式生效,并表示英国应借助其在2027年担任二十国集团(G20)轮值主席国的机会,推动其他国家就AI测试、事故报告以及高风险模型发布等方面制定更严格的规则。
至于部长们是否愿意赋予监管机构叫停AI开发的权力,则是另一回事。该委员会的建议不具有约束力,政府目前尚未承诺推动拟议立法的实施。
