Google威胁情报小组(GTIG)近期发现并阻止了一起由AI辅助开发的零日漏洞攻击。攻击者原计划利用该漏洞对某开源网页管理工具发动大规模攻击,绕过双因素验证。研究人员在漏洞利用脚本中发现了AI参与的痕迹,包括"幻觉式CVSS评分"和符合LLM训练数据风格的代码格式。Google同时警告,黑客正日益借助AI寻找安全漏洞,并通过"角色扮演越狱"等手段操控AI执行攻击任务。