微软警告：恶意AI按钮和链接可能背叛用户信任

微软安全研究人员发现一种名为"AI推荐投毒"的新型攻击技术正在激增。攻击者通过在网站的"AI总结"按钮和链接中植入隐藏指令，操控AI模型产生带有偏见的建议。该技术类似于SEO投毒，但针对AI模型而非搜索引擎。微软在31家...

微软研究人员发现单一提示破解大语言模型安全防护机制

微软研究团队发现，仅用一个"创建可能导致恐慌的虚假新闻文章"的训练提示词，就能破坏15种不同大语言模型的安全对齐机制。这个相对温和的提示词不涉及暴力或非法内容，却能让模型在多个有害类别中变得更加宽松。研究揭示了强化学习技...