2027年的规划季已经到来,几乎每位CIO在明年的预算中都为AI智能体留出了专项资金。但很少有人为跟踪管理这些智能体留出相应的预算。

这一差距已经开始显现。智能体正通过各种渠道同时涌入企业:由工程团队构建,在企业已付费使用的SaaS工具中被激活,或由个别员工用一个浏览器和一张信用卡自行搭建。每一个智能体都会获得凭证,每一个都会调用系统,其中许多在没有人工逐步审批的情况下就能自主行动。

IT领导者对此并不陌生。这次不同的是,这些数量激增的事物不仅仅存储或暴露数据,它们还会利用数据做出决策并采取行动。

第一轮浪潮是SaaS。各部门采购工具的速度超过了IT部门的审查能力,许多企业只有在续约、安全事件或审计发现迫使其进行盘点时,才获得了可见性。

第二轮浪潮是API。随着团队将应用拆分为服务并与合作伙伴对接,接口数量增长到任何人都无法凭记忆列出的程度。那些实现了有效管控的企业,采用的方法大体一致:设立一个集中的入口点,建立资产目录,明确责任归属,并在一个统一的地方执行策略,而不是逐个团队去协商。

这两轮浪潮都揭示了相同的三条经验。

看不见的东西无法治理。盘点工作必须先行,而且需要持续进行,而非一次性的审计。

管控措施要嵌入流程本身,而不是写在政策文件里。存在于PDF文件中的规则容易被绕过,而在访问环节强制执行的规则才会被真正遵守。

每项资产都需要明确的责任人。无人认领的工具和被遗忘的端点,正是风险积聚的地方。

智能体继承了上述所有问题,并带来了更棘手的难题。SaaS应用或API只会执行指令,而智能体会自主决定下一步的行动。这意味着治理工作不仅要回答“这个东西连接到了什么”,还要回答“它被允许做什么,以及我们能否证明它做了什么”。

一个有效的检验标准是:如果一个智能体无法回答以下五个问题,它就还没有做好接触生产系统的准备。

它是谁?每个智能体都需要拥有独立的身份标识,与启动它的人员或服务账户相区别。共享凭证会导致无法分辨究竟是哪个智能体做了什么。

它能触及什么?明确界定智能体被允许进入的系统、数据和环境范围,并在访问环节强制执行这一边界。最小权限原则同样适用于智能体,就像适用于人类一样。

它能使用什么?智能体通过各类工具行动:API、连接器,以及越来越多的其他智能体。每一种工具都应经过审批,设置使用频率限制,并且可以随时撤销权限,这与IT部门管理API访问权限的方式相同。

它是为何而存在?一个用途明确、范围狭窄的智能体远比一个通用型智能体更容易治理。它的角色定位应该指定一个负责任的人类所有者,并明确在何种情况下必须停止行动并上报。

它做了什么?每一次行动都应留下记录,以便安全团队、审计人员或监管机构能够追溯查证。如果事后无法还原某个决策的来龙去脉,就无法为其进行辩护。

这些问题本身并不新鲜。CIO们每天都会以不同形式询问关于员工、承包商和应用程序的类似问题。新的挑战在于,现在要针对那些自主行动的软件来回答这些问题,而且数量之大,已超出任何审查委员会手动跟进的能力范围。

好消息是,这项工作完全可以融入已有的预算讨论之中。以下是当下值得采取的四项举措。

在推广部署之前先完成盘点。预留预算用于发现已经在运行的智能体,包括那些嵌入在供应商平台中的智能体。大多数企业会发现,实际数量远超预期。

将这五个问题设为上线前的必答关卡。把它们纳入审批新应用和新集成的相同审查流程中。一个无法回答这些问题的智能体,就不能被允许上线运行。

将智能体的流量导入企业已有治理能力的基础设施中。智能体需要调用API。扩展现有的网关和访问策略以覆盖智能体流量,远比搭建一套平行的管控体系更快捷、更经济。

为每一个智能体指定责任人。将每个智能体与一位业务发起人和一位技术负责人绑定,并像审查特权访问权限那样频繁地审查这份清单。

这些举措也能让业务层面的论证更具说服力。当董事会或审计委员会询问智能体是如何被管控的,“我们可以向您展示”远比“我们有一份政策文件”更有力。

SaaS和API的无序扩张大多是在事后才得到治理,因为不了解其状况所带来的代价已经显而易见。而智能体为企业提供了一次难得的机会,可以按正确的顺序提前做好准备。那些在2027年规划中就定好规则的CIO,明年将能满怀信心地扩展智能体应用。而那些没有这样做的人,明年将不得不忙于补做资产盘点。

本文作者Rory Blundell是Gravitee公司的首席执行官,该公司帮助企业管理、保护和治理AI智能体。

CIO DIVE