LIVE INDEX / 最新文章
大模型"遗忘术"的漏洞:为什么AI忘记知识后还能回答相关问题?北京邮电大学团队揭示形式依赖偏差问题

大模型"遗忘术"的漏洞:为什么AI忘记知识后还能回答相关问题?北京邮电大学团队揭示形式依赖偏差问题

北京邮电大学团队发现大语言模型"遗忘技术"存在重大漏洞:AI在特定训练后虽能拒绝直接问题,但换个问法仍可套出相关信息。研究提出"形式依赖偏差"概念,并开发ROCR概念重定向方法,通过替换AI内部概念表示实现真正遗忘,解决...