纽约——据派拓网络(Palo Alto Networks,简称PAN)研究人员表示,前沿AI的高级应用已在信息保护能力与系统被入侵风险之间引发了一场划时代的格局转变。

这家网络安全公司在一次媒体发布会上,披露了其在前沿AI应用领域深入研究后的部分成果。在参与Anthropic的Project Glasswing项目和OpenAI的Daybreak项目数月之后,PAN的安全测试人员发现,原本需要花费一年时间才能找到的安全漏洞,如今在极短时间内便可被批量挖掘。

真正的危险在于:一旦恶意行为者掌握同等能力,就可以在现有主流安全防御体系几乎无法响应的速度下,将这些安全缺陷转化为攻击武器。

派拓网络Unit 42威胁情报副总裁谢罗德·德格里波(Sherrod DeGrippo)指出,一名掌握此类AI工具的单独威胁行为者,无需经过大量训练或积累丰富经验,便能发动堪比国家级或专业犯罪组织水准的复杂攻击。

PAN旗下的Unit 42团队是最早从全局视角观察前沿AI如何改变安全格局的网络安全机构之一。事实上,国家级与犯罪性威胁组织此前已开始将人工智能纳入攻击工具库,而新一代模型的出现更是将威胁等级拉升至全新高度,以至于只有少数机构能够在相对可控的环境中一窥其真实能力。

今年5月,PAN曾发出预警,称对手将在三至五个月内开始以前所未有的速度利用安全漏洞发动攻击。如今距该预警发布已逾三个月,研究人员表示,当初的预判正在一步步成为现实,安全负责人必须为这一全新威胁态势做好准备。

"现在已经是第五个月了,我们已经开始感受到这股浪潮的涌来。"PAN Unit 42咨询与威胁情报高级副总裁萨姆·鲁宾(Sam Rubin)在媒体发布会上表示。

研究人员目前正在调查一起事件:某攻击者借助AI在短短10小时内成功利用了50个不同漏洞和攻击路径,实现了初始访问、横向移动、权限提升并最终完成数据窃取。鲁宾表示,同等规模的攻击活动,若由人类攻击者完成通常需要两周时间。

派拓网络近期与另外100家安全及科技公司联署了一封公开信,呼吁社会各界立即采取行动,共同防范AI武器化所带来的威胁。

Q&A

Q1:派拓网络在Project Glasswing和Daybreak项目中发现了什么?

A:派拓网络的安全测试人员在参与Anthropic的Project Glasswing和OpenAI的Daybreak项目后发现,借助前沿AI,原本需要耗费一年时间才能挖掘的安全漏洞,现在可以在极短时间内被批量发现。这意味着恶意攻击者一旦掌握同等能力,可以用现有防御体系难以应对的速度将漏洞武器化。

Q2:AI武器化攻击具体能达到什么速度?

A:据派拓网络Unit 42研究人员调查的一起真实事件显示,攻击者利用AI在10小时内利用了50个不同漏洞和攻击路径,完成了初始入侵、横向移动、权限提升和数据窃取全流程。而同等规模的攻击,若由人类攻击者独立完成,通常需要约两周时间。

Q3:派拓网络Unit 42在今年5月发出的安全预警现在情况怎样?

A:今年5月,派拓网络曾预警称,攻击者将在三至五个月内开始以前所未见的速度利用安全漏洞。如今五个月已过,Unit 42高级副总裁萨姆·鲁宾表示,当初的预判正在逐步兑现,安全领导者必须尽快为这一全新威胁态势做好应对准备。

CIO DIVE