幻觉引用检测 关键字列表
科学家警告:AI垃圾内容正在严重破坏学术研究领域

科学家警告:AI垃圾内容正在严重破坏学术研究领域

一项由康奈尔大学和UCLA研究人员联合开展的研究发现,在四大主要学术数据库中,共存在约146,900条由AI生成的虚假引用。大语言模型如ChatGPT和Gemini存在"幻觉"问题,会生成听似合理但实为虚构的参考文献。研究团队分析了250万篇论文中的1.11亿条引用,发现自2023年大模型普及以来,虚假引用数量急剧上升。对此,学术预印本平台arXiv已宣布将封禁提交含幻觉引用内容的作者。