/
提示词注入 关键字列表
AI浏览器遭BioShocking攻击，大语言模型安全护栏形同虚设
安全公司LayerX研究人员披露了一种名为"BioShocking"的新型攻击手法，可诱使AI浏览器陷入"虚假现实"，使其安全护栏失效。攻击者通过植入一个奖励错误答案的游戏谜题，令浏览器内嵌LLM产生认知混乱，进而执行提取私有代码库内容或窃取密码管理器凭证等危险操作。该攻击已在ChatGPT Atlas、Comet、Genspark等多款AI浏览器上验证有效，再次暴露AI浏览器将网页浏览与智能体操作融合所带来的安全隐患。
Meta AI客服聊天机器人遭黑客利用，多个名人Instagram账号被盗
Meta的AI客服聊天机器人被黑客利用，成为窃取高价值Instagram账号的工具。黑客只需使用VPN伪装位置，发起密码重置流程，再提示AI客服更改账号关联邮箱，即可完成账号劫持。被盗账号在灰色市场估值高达数百万美元。奥巴马白宫账号等知名账号曾短暂失陷并发布亲伊朗内容。Meta已于5月29日紧急修复该漏洞。安全研究人员指出，启用多因素认证可有效防御此类攻击。
白皮书
京公网安备 11010802021500号
