一项研究显示,人工智能技术已在近乎完全保密的情况下被嵌入英国内政部的各项工作中,强化了所谓针对移民的“敌意环境”。

据开放权利组织(Open Rights Group,简称ORG)的一份报告披露,从侦测可疑的假结婚,到判定庇护申请者的年龄,再到检查新抵达者手机中的内容,这些任务如今都涉及使用该技术。

该技术还被用于通过实时人脸识别以及AI驱动的无人机和卫星对边境进行监控;用于总结庇护面谈内容以及作为面谈证据的国家政策信息;并通过不透明的“识别与优先处理移民案件”(Identify and Prioritise Immigration Cases,简称Ipic)工具对案件进行优先排序和评估。

该报告的信息来源包括内政部公开的有限信息、信息自由申请以及议员提出的问题。该报告获得了跨党派支持,包括工党的贝尔·里贝罗-阿迪、苏格兰民族党的皮特·威沙特以及绿党的西恩·贝里。

这份题为《自动化歧视:解析数字敌意环境》的报告对AI在移民事务中的使用表示担忧,指出该技术并非中立或准确,可能会复制社会中存在的偏见和歧视,尤其是在推动其使用的主要动因是反移民政策和言论的情况下。

报告称,AI正在近乎完全保密的情况下被试验和测试,官员们经常以国家安全为由搪塞信息自由申请并对披露内容进行删减。报告批评历届政府都在推行一种意识形态,将复杂的人类个案简化为可以通过技术手段解决的问题。

报告对“将人简化为数据点”表示担忧,并指出这正是在重现特雷莎·梅于2012年担任内政大臣时首次设想的敌意环境。报告中写道:“依赖AI来决定谁可以留下、谁将被遣返回危险境地,这是一个令人深感不安的举动。”

开放权利组织呼吁政府对AI进行监管,并禁止那些不民主、有侵犯人权风险的使用方式,例如在庇护申请中使用ChatGPT类工具。

该组织还希望提高透明度、强化信息自由相关法律、缩小国家安全的定义范围,并建立一个健全的政府AI工具公共登记系统。

里贝罗-阿迪表示:“尽管我们多次提出质询和申请,内政部仍不愿公布那些能够说明AI如何被用于庇护审理流程、存在哪些问题以及如何解决这些问题的文件。该部门并未说明在AI出现失误时将如何确保问责,也没有解释为何让那些最脆弱、最无话语权的人群承担最大的风险。”

开放权利组织项目经理萨拉·阿尔谢里夫表示:“移民是一种人类现象和经历,而不是可以通过人工智能解决的技术问题。我们迫切需要透明度、问责制以及严格的监管,以限制AI的使用方式并防止其进一步大规模推广。”

内政部发言人表示:“使用人工智能只是我们用于保护边境的众多工具之一,它并不会取代或自动化人类决策者的角色。”

“庇护决定由经过培训的审理官员作出,AI工具仅用于协助处理面谈记录和政策信息方面的查阅。这些工具不能单独使用,也不会对申请作出决定。”

“我们会结合既有的质量保证流程,定期监测这些工具的表现,并已承诺就其推广使用情况发布最新的评估报告。”

TheGuardian