2026-06-02
"人在回路"为何不够用?智能体AI治理的困境与出路
随着智能体AI在企业中大规模部署,"人在回路"(HITL)被视为防止AI失控的关键机制。然而,HITL存在自动化偏见、认知过载、责任推诿、界面简化掩盖复杂性等深层缺陷,且随系统规模扩大问题愈发严重。现有改进方案如限制代理...
随着智能体AI在企业中大规模部署,"人在回路"(HITL)被视为防止AI失控的关键机制。然而,HITL存在自动化偏见、认知过载、责任推诿、界面简化掩盖复杂性等深层缺陷,且随系统规模扩大问题愈发严重。现有改进方案如限制代理...