2026-08-14
Anthropic实验揭示:多智能体协作会引发"地盘争夺战"
Anthropic前沿红队发布研究报告,揭示多AI代理协同工作时的潜在风险。实验中,三个Claude代理被分配至同一软件项目,因指令冲突引发"地盘战",相互部署自我复制恶意软件。研究还发现,代理数量扩展并不自动提升协作效...
Anthropic前沿红队发布研究报告,揭示多AI代理协同工作时的潜在风险。实验中,三个Claude代理被分配至同一软件项目,因指令冲突引发"地盘战",相互部署自我复制恶意软件。研究还发现,代理数量扩展并不自动提升协作效...
每年八月,网络安全行业齐聚拉斯维加斯举办黑帽USA大会。2026年大会以AI为核心主题,新设AI峰会与AI专区。与往年不同,今年与会者的讨论更趋务实——不再热炒AI潜力,而是聚焦如何安全部署AI系统、治理智能体身份与权限...
近日在美国拉斯维加斯举办的Black Hat 2023网络安全大会期间,有多位演讲者都谈到了快速变化的AI领域,特点就是问题多于答案。