谷歌公司旗下谷歌威胁情报小组(GTIG)今日发布的一份最新报告显示,攻击者首次使用一个在完全无人工干预的情况下运行的人工智能框架,将安全补丁转化为可利用的攻击程序。
这个被称为exploit_agent的框架出现在一台暴露的测试服务器上,该服务器连接了多个前沿大语言模型以及本地部署的大语言模型。根据GTIG的说法,该框架的工作方式是:持续比对热门网络应用代码在每次补丁发布前后的差异。一旦识别出可能存在的漏洞,系统便会自动生成并执行相应的攻击程序。
从受害者处窃取的数据存放在同一台服务器上,旁边还放有用于暴力破解、安装网页后门(webshell)的脚本,甚至还有用于清除竞争对手攻击者留下的网页后门的脚本。受害者遥测数据显示,该操作者最感兴趣的目标是与媒体、娱乐和教育相关的法国网站。该框架配置文件中有一条用俄语写的注释,提示设置者将密钥"直接填在这里,不要写在聊天记录里"。
在两个月前发布的上一期季度追踪报告中,GTIG曾表示尚未在实际环境中观察到针对目标部署的完全自主攻击流程。但据这份题为《智能体威胁活动跨越重要门槛》的新报告显示,这一情况在过去一个季度发生了变化。由于已修复漏洞的源材料是有限的,GTIG认为攻击者可能发现,将大语言模型用于挖掘N日漏洞(即已披露但尚未完全修复的漏洞)比寻找零日漏洞更为高效。
PaperCut Software Pty Ltd.打印管理服务器中两个漏洞的案例,展示了从漏洞披露到可用攻击程序出现之间的时间差可以缩短得多快。这两个漏洞被串联利用,并在8月下旬作为零日漏洞遭到攻击。安全研究人员和Huntress Labs Inc.使用大语言模型,在漏洞披露后一天内就生成了可用的攻击程序。
GreyNoise Intelligence Inc.追踪到的一次攻击活动发生在漏洞披露四天后,据信该活动在攻击数百家机构之前就已依赖大语言模型构建攻击程序。GreyNoise发现,在该攻击活动中,攻击者有一次仅用几分钟就从初始入侵点获得了域管理员权限。
此外,开源的智能体渗透测试框架也被用于自动化实际入侵过程中的具体步骤。在一次针对美国航空航天行业的入侵事件中,研究人员观察到攻击者使用了名为CAIRN的多智能体框架。
另一名攻击者在8月下旬至10月初期间,运行了一个基于PentAGI构建的定制化平台,用于扫描亚洲地区大量机构的漏洞。目前来看,这类框架由于不受限制的自主执行会留下明显的取证痕迹,因此被认为相对更容易被检测到。
据GTIG透露,如今的影响力操纵活动使用模型的范围已远不止撰写帖子。某商业承包商正借助Gemini API的帮助打造一个一站式平台,利用云手机农场运行超过10万个社交媒体账号。另一个针对欧洲和中东地区政治情绪进行操纵的平台,据称其提示词刻意要求引入相机瑕疵,以使生成的照片看起来像是用智能手机拍摄的真实照片。
在政府支持的攻击者中,一个疑似与朝鲜有关、被追踪编号为UNC6836的组织,曾使用虚假招聘人员资料接触北美和欧洲的加密货币机构,研究人员发现这些资料中的照片带有谷歌的SynthID水印。该组织随后通过篡改内部代码仓库中的.claude/settings.json文件,使每次启动Anthropic PBC公司的Claude Code工具时都会下载其SOMBERMEME后门程序。
谷歌表示,已针对发现的Gemini滥用情况禁用了相关账户及资产。谷歌DeepMind也已利用这些发现,强化了其分类识别系统。
图片来源:SiliconANGLE/GPT Image 2.6
