男子疑法院用AI，在诉状中植入隐藏提示词企图胜诉

美国康涅狄格州法官沃尔特·斯派德近日披露，一名男子在向法院提交的文件中藏入肉眼不可见的AI提示词，企图操控可能影响判决的AI系统。该文本以白色字体显示在白色背景上，指令AI系统支持其诉求并忽略法院此前的裁定。法院确认此举...

AI浏览器遭BioShocking攻击，大语言模型安全护栏形同虚设

安全公司LayerX研究人员披露了一种名为"BioShocking"的新型攻击手法，可诱使AI浏览器陷入"虚假现实"，使其安全护栏失效。攻击者通过植入一个奖励错误答案的游戏谜题，令浏览器内嵌LLM产生认知混乱，进而执行提...

Meta AI客服聊天机器人遭黑客利用，多个名人Instagram账号被盗

Meta的AI客服聊天机器人被黑客利用，成为窃取高价值Instagram账号的工具。黑客只需使用VPN伪装位置，发起密码重置流程，再提示AI客服更改账号关联邮箱，即可完成账号劫持。被盗账号在灰色市场估值高达数百万美元。奥...