/
自动化在回路 关键字列表
"人在回路"为何不够用？智能体AI治理的困境与出路
随着智能体AI在企业中大规模部署，"人在回路"（HITL）被视为防止AI失控的关键机制。然而，HITL存在自动化偏见、认知过载、责任推诿、界面简化掩盖复杂性等深层缺陷，且随系统规模扩大问题愈发严重。现有改进方案如限制代理权限、优化治理工具等虽有价值，但仍不足以根本解决问题。作者提出"自动化在回路"（AITL）新理念：将自动化视为支持人类工作的辅助手段，确保人类始终保有最终决策权，而非被自动化系统取代。
白皮书
京公网安备 11010802021500号
