/
RAG投毒攻击 关键字列表
仅需12美元就能让大语言模型"相信"一个彻头彻尾的谎言
一位安全工程师花费12美元注册域名，并在维基百科添加虚假词条，成功让多个主流AI聊天机器人相信他是某德国卡牌游戏的"世界冠军"——而这项赛事根本不存在。该实验揭示了AI大语言模型在检索增强生成（RAG）层面的三大安全漏洞：网络检索层可信度缺失、训练语料库可能被污染，以及AI智能体面临更严峻的安全威胁。研究者指出，LLM无法区分真实来源与伪造来源，相关问题亟待解决。
白皮书
京公网安备 11010802021500号
