尽管几乎所有企业都已建立正式的AI治理政策，但据安永周二发布的一份报告显示，近半数高级AI领导者表示，他们所在的组织曾为紧急部署而绕过AI治理流程。该公司调查了202多位来自年营收至少10亿美元企业的高级AI高管。
智能体AI的兴起是企业面临的主要痛点之一，其发展速度已超过监管步伐。约半数受访者表示，其治理框架尚未更新以应对智能体特有的风险。
“有效的AI治理不应只是一纸文件或被束之高阁的一套政策，”安永美洲保证业务首席技术官理查德·杰克逊告诉CIO Dive，“它应当被组织真正贯彻执行，转化为实践和实际成果。”
企业正面临AI治理政策与实际执行之间日益扩大的差距。尽管已出现多起反映该技术风险特征、有据可查的网络安全事件，但各组织仍持续绕过现有协议。
首席信息官必须帮助企业建立既能有效管控风险、又不会阻碍业务运营的治理流程。
“快速推进和实施适当治理并非互相排斥，”杰克逊表示，“治理正是让组织有信心快速行动而不失控的保障。”
这种方法要求将治理嵌入AI开发和部署的整个生命周期，明确测试、审批、监控和上报升级方面的要求。首席信息官还应建立明确的例外处理流程，包括谁有权批准加速部署，以及需要哪些额外管控措施或部署后审查。
随着企业部署智能体AI，这一挑战变得更加突出。在使用该技术的受访者中，约四分之一表示，部署后维护或监控的责任归属尚未明确。
因此，首席信息官需要超越初始审批阶段，在AI系统的整个生命周期中建立明确的责任归属。这包括确定谁来监控自主系统、行为出现变化时由谁负责，以及何时需要人工干预。
杰克逊表示，组织需要建立明确的人工与技术双重防护机制，对智能体的行为具备可视性，并具备检测智能体是否超出预定参数运行的能力。
这份调查还揭示了一个技能短缺问题，约三分之二的受访者对内部缺乏设计、实施或改进AI治理管控的专业能力表示担忧。
对首席信息官而言，这带来的启示是应定期开展保障性审查，将其视为一种运营反馈机制，而非合规性走过场。测试管控措施在实践中是否有效，并利用结果来调整、暂停或终止系统运行，有助于确保治理体系与AI部署同步演进。
“首席信息官和领导层的职责，是组建跨职能团队，将法务、IT、安全和合规团队汇聚在一起，确保各团队的治理工作能跟上AI部署的步伐，”杰克逊说，“首席信息官的洞察力和专业能力，对于帮助和推动整个组织的治理工作，从未像现在这样至关重要。”
Q&A
Q1：为什么企业会绕过AI治理政策？
A：根据安永的调查，近半数高级AI领导者表示，尽管企业已建立正式的AI治理政策，但为了应对紧急部署需求，组织仍会选择绕过既有治理流程，这反映出治理政策与实际执行之间存在明显差距。
Q2：智能体AI给企业治理带来了哪些新挑战？
A：智能体AI的发展速度超过了监管步伐，约半数受访企业表示其治理框架尚未针对智能体特有风险进行更新。同时，约四分之一使用该技术的受访者表示，部署后由谁负责监控和维护的责任归属并不明确。
Q3：企业该如何改进AI治理流程？
A：企业应将治理嵌入AI开发部署的整个生命周期，明确测试、审批、监控和上报流程，并建立跨职能团队，让法务、IT、安全和合规部门协同工作，同时定期开展保障性审查，确保治理与AI部署同步演进。
