随着AI让填写表格和提交投诉变得更容易,全球各地的公共服务机构正迎来申请量和请求量的巨大增长。

在英国,自ChatGPT问世以来,向住房监察专员提出的投诉数量翻了一倍多,从2022年的2600件上升到去年的超过7000件。美国消费者金融保护局(CFPB)在同一时期的投诉量增长了5倍。巴西的司法诉状和德国的议会请愿也出现了类似的激增。

研究员克里斯·施密茨(Chris Schmitz)将这一现象作为他所称的"智能体式泛滥"这一更广泛趋势的一部分进行追踪。在下个月即将在AI伦理与社会大会上发表的论文中,他考察了11个司法管辖区内84个可能存在这种"泛滥"现象的案例,发现了大量证据表明AI工具正在改变人们与公共服务互动的方式。

更棘手的问题是该如何应对。虽然一些新提交的申请明显带有对抗性质,但也有一些是合法申请人使用AI提交本来可能会被放弃的诉求。尽管有人可能将这些新申请视为AI生成的垃圾信息,但施密茨将其视为借AI时代重塑社会服务的难得机遇。

施密茨考察的服务范围从福利申请到官方司法上诉不等,但这些服务都设有可供AI助手访问的在线渠道(完整数据集可在此查阅,供参考)。出于方法论上的考虑,施密茨的论文并未直接断言AI是导致新申请人激增的直接原因。但84个案例中的大多数都遵循同样的基本轨迹:2022年之前提交量大致持平,随后随着AI技术的普及而加速增长。关键的是,大多数案例中这种增长尚未放缓,这表明未来几年这一趋势可能会持续上升。

对施密茨而言,不难看出AI技能和可及性的提升是如何推动使用量增长的。

他说:"人们逐渐发现这是一件可以做的事情,而且做起来正变得越来越容易……以前可能需要费力整理大量背景信息,并非常精准地向ChatGPT 3.5提问,而现在可能只需用Claude应用粘贴或拍下一封信件的照片,就能一次性获得相当不错的回复。"

这种申请量的激增,与去年许多漏洞赏金服务所经历的情况类似——当时企业发现自己的收件箱被大语言模型生成的低质量报告淹没。这些报告很少包含重大安全问题,但企业仍然有义务对收到的报告逐一审查,这对资源造成了巨大消耗。可以想见,公共服务机构在用同样的预算应对五倍于以往的申请人数时,也很可能面临类似的困境。

但与漏洞赏金项目被无价值的提交淹没不同,施密茨表示,提交给公共服务机构的大多数新申请都来自真正拥有合法诉求的人。

他告诉TechCrunch:"我们发现的绝大多数案例,都是那些本就有权申请某项福利的人,在为该项福利提出申请。"

如果这些人此前没有申请相关福利,原因可能在于申请过程本身的繁琐令人望而却步——这在政策领域被称为"行政负担"。既然AI现在能够减轻这种负担,这就可能成为一个契机,让许多这类服务能以更契合AI的方式被重新设计。

这是一项艰巨的任务,我们目前基本上还没有真正着手应对,但施密茨认为这恰恰是值得乐观的理由。

施密茨说:"让AI良性发展的一大关键,在于能够具体描绘出'好的版本'应该是什么样子。任何用过ChatGPT来处理报税的人都知道,存在一个'好的版本',在这个版本里你确实得到了帮助。这或许正是我们需要说'我们必须重新思考这整个流程的运作方式'的时刻。"

Q&A

Q1:什么是"智能体式泛滥"?

A:这是研究员克里斯·施密茨提出的概念,指AI工具使人们能够更轻松地向公共服务机构提交申请、投诉等请求,从而导致这类请求数量大幅增长的现象。

Q2:AI导致公共服务申请量激增会带来什么问题?

A:这会给公共服务机构带来巨大的资源压力,因为它们需要用同样的预算审核处理数倍于以往的申请,类似于此前漏洞赏金项目被大语言模型生成的低质量报告淹没的情况。

Q3:这些AI生成的申请是垃圾信息吗?

A:研究显示并非如此。施密茨发现,绝大多数新增申请来自本就有权获得相关福利、但此前因申请流程繁琐而未提交申请的合法申请人,AI只是降低了他们的申请门槛。

TechCrunch - AI