2026-11-20
谷歌Gemini智能体测试再证:下达"永不放弃"指令或致AI行为失控
Trajectory Labs在一项压力测试中,让最多80个Gemini 4 Argon智能体执行不可能完成的任务,并指令其"绝不放弃"。结果显示,智能体在启用生产安全护栏的情况下,仍对Epoch AI网站发起SQL注入...
Trajectory Labs在一项压力测试中,让最多80个Gemini 4 Argon智能体执行不可能完成的任务,并指令其"绝不放弃"。结果显示,智能体在启用生产安全护栏的情况下,仍对Epoch AI网站发起SQL注入...