最近刷社交媒体时，我开始思考"信任"这个问题。我的信息流里大约一半内容是AI生成的劣质内容，眼尖的用户会指出这些是机器生成的，这常常让不知情转发的人感到尴尬，也有人明知故犯地分享，因为觉得有趣或者能借此制造混乱而暗自得意。
还记得GPT-3刚问世的那段日子吗？我们随便问聊天机器人什么问题，它都能几乎瞬间、非常自信地给出一个看似合理实则错误的答案。"幻觉"这个词用来形容AI的回答，就是从那时起进入大众词汇的。六年过去了，几款不同聊天机器人也更新了好几个版本，但即便Claude或Gemini经常帮我做些有用的工作，我仍然无法完全信任它们给出的答案。这就是当前AI的现状：信任但要核实，而且必须核实。
将这条准则放大到维护科学记录完整性的规模，你就能体会到同行评审学术出版商面临的挑战。自由撰稿人、应用数学博士本杰明·斯库斯在《我如何用AI伪造一篇科学论文》一文中，讲述了人类把关者试图抵御AI劣质内容浪潮的故事——他尝试让自己用AI生成的论文蒙混过IEEE的审核防线。
"他基本上就是点击了'运行实验'和'撰写论文'，然后什么都没再做。"——伊莱扎·斯特里克兰
正如专题报道兼AI主编伊莱扎·斯特里克兰告诉我的那样，斯库斯惊讶地发现，生成一篇大体上说得通、也算是"科学"的论文竟如此轻而易举。在其中一次实验中，"他基本上就是点击了'运行实验'和'撰写论文'，"她说，"然后什么都没再做，直接把它扔进了出版系统的大门。"
斯库斯发现，IEEE的人工审核流程与研究诚信检测程序目前尚能跟上步伐，这本质上是一场针对使用免费工具者的猫鼠游戏。但更先进的大语言模型已经不再犯免费版本那样的低级错误。这使得出版商陷入一场军备竞赛：越来越逼真的AI劣质内容，对抗旨在侦测它们的系统。
学术出版商并非唯一试图守住底线的一方。全球人类知识的汇聚地——维基百科，也在做同样的事。在本月的"五个问题"栏目中，斯特里克兰采访了埃莉亚·勒布鲁，她是"维基AI清理项目"的创始成员之一，这是一个志愿者组织，致力于侦测并删除平台上AI生成的内容。勒布鲁的团队面临着与商业出版商同样的问题，但人手更少、工具也更有限。
"维基百科以人类生成信息的存储库著称，他们想要守住这一点，"斯特里克兰说，"谁知道他们还能坚持多久呢。"
如果我们不能普遍假定科学记录值得信赖，或者关于这个世界的基本事实是准确的，那么我们对"真实"的理解就会陷入不确定性之中。或许这会让量子科学家和那些在缺乏共同现实认知的信息环境中如鱼得水的骗子们感到高兴。但这种不确定性最终会削弱人们对那些负责整理人类知识体系、推动科技进步造福人类的机构的信任。
又或者，在一个由AI做科研、写论文的世界里，人类是否信任这些输出结果可能根本无关紧要。正如斯特里克兰所说："想想都觉得疯狂——将来会出现AI专门为其他AI写作的局面，而我们人类反倒被排除在这个循环之外。"
