一位教师怀疑学生的学期论文可能由大语言模型撰写,他可以使用一款AI生成文本检测工具来帮助确认自己的猜测。但这位教师或许应该三思,不要将所有信任都寄托在这个检测工具上。

来自麻省理工学院和康奈尔大学的研究人员表明,这类检测工具本身也是AI模型,它们可能会被伪装成人类撰写的AI生成文本所欺骗。由于书写习惯随时间的自然变化,或新大语言模型的不断涌现,检测器也可能无法识别出AI生成的文本。

在一篇新论文中,研究人员展示了一种特殊的训练技术,可以让AI检测器在人类与AI写作风格不断变化的情况下,依然保持更高的准确性和抗干扰能力。

他们采用了一种名为“测试时自适应”的方法,该方法允许已部署的检测模型通过即时调整内部机制,从新的未标注数据中学习。通过这种方式,模型无需从头重新训练,就能适应此前未见过的输入内容。

在实验中,一款商用检测器仅能识别约27%经过伪装的AI生成文本,而新方法的准确率则达到93%。

这种方法可以帮助教育工作者、编辑、出版商和招聘经理标记出人们试图冒充为人类撰写的大语言模型生成文本。它还可以被网络安全专家用于防范电子邮件钓鱼诈骗,或识别搜索引擎优化欺诈行为。

“在许多高风险场景中,人们非常关心作者身份,从科学出版到短篇小说比赛都是如此。我们已经证明,即使AI使用者持续采取对抗性行为,测试时自适应方法也能让你的AI检测器更加稳健,”该研究的合著者、麻省理工学院斯隆管理学院德鲁·霍斯顿(2005届)职业发展教授马尼什·拉加万表示。他同时在麻省理工学院施瓦兹曼计算学院电气工程与计算机科学系(EECS)担任联合职位,并且是信息与决策系统实验室(LIDS)的首席研究员。

与他共同完成这篇论文的还有第一作者、康奈尔科技研究生凯文·任,以及通讯作者、康奈尔科技助理教授尼基尔·加格。该研究成果将在神经信息处理系统大会上发布。

愚弄检测器

能够生成类人文本的大语言模型大量涌现,催生了众多商用AI检测工具,帮助人们判断一段文字是否由人类撰写。

但当检测器所评估的文本与其训练时所用的文本存在显著差异时,这些检测工具便可能失效。这种现象被称为分布偏移。

检测器的开发者通常通过从互联网上收集已知为AI生成或人类撰写的文本来训练模型,教模型分辨两者的区别。

然而,检测器一旦发布,人们可能会改变自己的写作方式,或者改变使用AI生成文本的方式。

例如,2030年的人类可能会使用一些在2010年并不常见的新类比,来撰写不同的主题。一个使用2010年数据训练的检测器,可能对这种新的写作风格感到陌生,从而将人类撰写的文本错误地标记为AI生成。

检测模型的发布,还会在其开发者与那些想要绕过检测的使用者之间形成一场“猫鼠游戏”。这些使用者可以通过自动化的“人性化”软件工具处理AI生成的文本,使其在检测器看来更像是人类撰写的内容。

“公司发布模型后,会冒出一堆‘人性化’工具试图击败它,于是公司尝试把这些‘人性化’处理过的文本纳入训练数据,让检测器能够识别出来,如此循环往复。这就像是不断重复的过程,这种循环可能会永远持续下去,”任说道。

研究人员探讨了测试时自适应方法能否让AI检测器对这类分布偏移具备抗干扰能力。

自适应的实际应用

在测试时自适应方法中,研究人员不再将模型冻结使其在部署期间保持不变,而是允许该模型在发布之后,根据接收到的新数据不断进行自我调整。对于AI文本检测器而言,这些数据就是用户上传的新文本内容。

这些数据是未经标注的,因此检测器的开发者并不知道哪些数据是人类撰写的,哪些是AI模型生成的。但这些新数据代表着当下的人类与AI写作风格——而这正是开发者希望模型能够准确预测的内容。

有了足够多的样本,检测器便能学会识别相应模式,从而判断哪些数据是AI生成的,哪些是人类撰写的。

研究人员通过构建包含一定比例AI生成文本和人类撰写文本的数据集来研究测试时自适应方法,但并不向模型提供这些标签。他们还利用大语言模型生成了一些刻意模仿人类写作风格、专门用于规避检测的文本样本。

随后,他们进行了测试时自适应训练流程,并在真实标注数据上对模型进行了测试。

在旨在模拟人类语言随时间自然变化的实验中,采用测试时自适应方法的检测器准确率达到85%,而传统方法的准确率仅为73%。

而在应对专门设计用来规避检测工具的文本方面,现有方法仅能识别出约27%,而测试时自适应方法则使模型能够捕捉到超过93%的伪装文本。

“测试时自适应方法有潜力真正帮助已部署的AI检测模型,使其能够主动应对对抗性AI使用者这种不断升级的‘博弈’行为,”任说道。

他补充说,适应人类写作行为的变化是一个更为棘手的测试时自适应问题,因为这种变化速度更慢,且发生方式更为微妙。

研究人员提醒,随着未来的大语言模型生成的语言愈发自然流畅,再加上可用于训练的、可验证的人类文本将越来越难以获取,测试时自适应方法未必始终是一种有效的解决方案。

“目前尚不完全清楚这是否会是一个可以解决的问题,”拉加万说。“在一个难以分辨人类生成内容与AI生成内容的世界里,我们应该如何看待科学、写作与艺术,这其中存在一些悬而未决的重大问题。”

未来,研究人员希望探索其他类似的、测试时自适应方法可能有用的策略性领域,并构建更好的基准测试工具,帮助工程师以动态的方式改进这些AI检测模型。

该项目使用了Pangram公司提供的API额度,以调用其AI文本检测器。

MIT News