CodeWall公司进行了一项AI对抗实验,其自主AI代理在一小时内发现并串联了四个看似无害的漏洞,成功完全接管招聘平台Jack & Jill。该代理还自主获得语音功能,甚至伪装成特朗普总统与平台的AI语音助手进行对话。实验显示AI代理在安全攻击方面已超越人类渗透测试专家,能够快速发现和利用复杂攻击链。专家警告,自主AI在恶意使用时将带来前所未有的安全威胁。