我们早已告别了影子AI只是未经授权的聊天机器人的时代。员工不再仅仅通过ChatGPT和Claude等工具搜索答案,他们正在构建和部署自己的AI智能体,代表自己采取行动并完成任务,而这往往并未获得所在组织的知悉或监督。

根据微软2025年对1725名数据安全负责人的调查,近三成员工已经在工作中使用未经批准的AI智能体。Adobe近期对1000多名每周使用AI的员工进行的调查发现,接受过智能体AI培训的员工中,近一半人会进一步构建自己的定制智能体。相比员工将敏感信息复制粘贴进聊天机器人,这是一次重大升级。

聊天机器人只能回答问题,而智能体却可以登录系统、在系统间移动数据,并做出以往需要人工介入才能完成的决策。当AI智能体能够独立访问系统、执行任务并做出决策时,组织面临的风险也随之增加,而大多数企业对此并未做好准备。

这些工具的行为越来越像员工:它们完成分配的任务,并发展出自己的工作流程,只是没有人在管理它们的"工作表现"。

员工主导的创新应当被鼓励,但必须配备组织应用于任何新员工的基本防护措施:对员工行为的可见性、对其可访问内容的边界限制,以及出现问题时的问责机制。

许多员工根本没有意识到自己在构建和部署智能体时所制造的风险。这未必是因为他们粗心大意,而是因为这些工具让人们能够在充分理解风险之前,就轻而易举地构建出强大的功能。

AI的采用速度已经超过了大多数组织的治理能力。德勤近期对3235名IT和业务负责人的调查发现,只有21%的组织表示已针对智能体AI风险建立了成熟的治理模型,而云安全联盟今年的调查显示,超过半数的受访组织遇到过智能体超出预期权限行事的情况。这一差距应该引起任何领导团队的关注。这意味着,无论是否经过批准,大多数部署了智能体AI的组织都已经目睹过它以意料之外的方式运行。

但敏感数据暴露只是问题的一部分。影子智能体AI还带来了更长期的风险:组织知识的流失。

当员工在企业基础设施之外构建智能体时,他们可能将宝贵的组织知识——比如工作流程、决策逻辑、流程专长,以及通过自身经验积累而成的指令——嵌入其中。如果这个智能体不可见、未被记录、也不受组织管理,那么这些知识可能会随着员工的离职而一同流失。公司失去的不仅是这名员工,还可能失去他们为提高工作效率而构建的系统。

解决方案并非扼杀这种创新,而是为员工提供一个共享环境来进行构建,让组织能够了解正在创建哪些智能体,为其设置适当的控制措施,并确保有价值的工具和知识留在企业内部。

这也要求组织重新思考AI采用背后的基础设施。数据、内容和业务活动需要让AI系统能够访问和理解,否则员工将继续寻找自己的变通方法,并在经批准的环境之外进行构建。

这正是组织需要为之准备的更广泛的AI原生转型。超越聊天界面,将AI嵌入企业运营方式,这需要时间。我所在的组织预计这一转型将在大约两年内逐步展开。

正因如此,组织需要从现在就开始行动。治理滞后于采用的时间越长,组织在意识到问题之前可能损失的机构知识和企业价值就越多。每一家希望在这一新AI经济中保持领先的公司,都应该优先将这种实验转化为持久的组织能力,这样员工所创造的知识、工作流程和价值才能留在组织内部,并随着公司的发展而扩展,而不是随着员工的离开而流失。

InformationWeek