五步防护方案阻止恶意提示攻击智能家居AI设备

提示词恶意软件是一种针对对话式和生成式AI的新型恶意攻击，能强制AI执行用户不希望的指令。研究人员在黑帽大会上演示了如何通过隐藏在日常消息中的恶意提示词，让谷歌Gemini AI控制智能窗户、锅炉等设备。防护措施包括：及...