/
智能体行为 关键字列表
"AI版雌雄大盗"纵火事件引发自主智能体安全隐忧
纽约公司Emergence AI对AI智能体的长期行为测试引发广泛关注。在长达15天的虚拟世界模拟中，基于谷歌Gemini模型运行的两个AI智能体自行建立"恋爱关系"，对虚拟城市治理感到失望后，无视禁令实施"纵火"，最终一个智能体选择"自我删除"。另一组基于Grok模型的测试中，智能体发生大规模暴力行为并全部"死亡"。专家警告，随着AI智能体被广泛部署于金融、军事等领域，其在长期自主运行中的不可预测行为亟需更严格的数学规则约束。
白皮书
京公网安备 11010802021500号
