尽管AI在加速系统漏洞威胁方面似乎给网络安全策略带来了新的挑战，但首席信息安全官（CISO）们同样在利用AI强化自身的安全态势。然而，如果缺乏必要的管控机制，AI智能体在企业内的大规模扩散将在身份管理方面带来麻烦，并留下对私有数据拥有不受限访问权限的"孤儿"AI智能体。
CISO们面临着复杂的身份管理挑战，涉及的对象不仅是人类用户，还包括员工创建的AI智能体，以及员工离职后遗留下来的那些智能体。
Intuit首席信息官兼首席信息安全官阿提克斯·泰森表示："风险在于，人们开始在企业内大量增殖各类AI智能体，随后这些智能体被'孤立'，进而成为攻击入口。"
泰森梳理了AI影响企业安全的四个维度。前三个已是业界熟知：AI可被用于加强对企业的攻击；企业在部署AI的过程中会催生新的攻击面；同时，AI也为防御方提供了应对威胁的新工具。第四个维度是AI治理，AI智能体的无序扩张正在这一领域制造新的问题。
"这与其说是控制AI的使用，不如说是'如何规范MCP（模型上下文协议）的使用，并让人们能够安全地创建和共享智能体'，"泰森说道。
AI智能体崛起对身份管理带来挑战
强化AI治理的一个重要方面，是对企业内部AI智能体进行身份管理。
泰森表示，尽管员工创建新AI智能体的出发点是好的，但宽松的访问控制很快就会引发问题。"如果员工自身拥有过于宽泛的权限，进而赋予智能体同样宽泛的权限，那么智能体就可能利用这些权限做出意料之外的行为。这并非恶意行为者所为，而是一个不了解如何管控自己所构建之物的善意人员造成的，"他说。
学术测评机构ETS和PSI的首席信息安全官沃利·达利林普尔表示，AI带来的最大风险之一正是身份管理。
"当你从未被设计用来管理机器对机器的身份时，你要如何处理这种情况？我们的架构并非为此而生。身份认证是新的安全边界，"他说。
达利林普尔解释道，AI智能体目前正在使用组织身份访问服务账户，而这些账户并不总是归属于某个具体的人。一个身份可能被分配给IT或安全部门内的某个团队，"现在，这些服务账户正在与智能体发生交互，且这一切都在幕后以极快的速度、大规模地进行，"他说。例如，一个AI智能体可能会借用某个团队的身份来完成任务，或与其他智能体共享身份。
"身份意味着数据访问权限——这些数据可能涉及个人隐私信息、医疗数据或人力资源数据。一个智能体究竟拥有哪些访问权限，更重要的是，谁对这个智能体负责？"他说。
更复杂的情况还在于：一名员工离职时，可能已经创建了十几个智能体，组织随后不得不同时停用该员工的账户以及其所创建的每个智能体的账户，达利林普尔解释道。他表示，传统的身份与访问管理工具并不具备管理AI智能体的能力。
管控智能体扩散
达利林普尔和他的团队在对新企业项目进行风险评估时，会将制定智能体扩散管理方案纳入评估流程。
"我们必须将每个智能体视为独立的身份主体，"达利林普尔说。这并非一次性工作——他的团队会持续与项目团队保持沟通，了解项目范围是否发生变化，并评估这些变化将如何影响新智能体的管理。
达利林普尔团队管理AI智能体身份的方法之一是AI智能体证明（AI Agent Attestation），这是一种通过密码学手段证明智能体身份、防止状态漂移、管控自主行为并确保智能体间安全协作的技术方法。
安全公司Palo Alto Networks的工程负责人兼架构师拉加瓦亚·阿武拉表示，AI证明是验证AI智能体在其持续演进过程中是否值得信赖的重要流程。证明过程评估的内容涵盖"智能体的身份与角色、模型与配置版本、内存与上下文的完整性、信任评分与行为信号，以及运行环境与依赖项的健康状况，"他说。
Smartsheet首席信息官兼首席信息安全官拉维·索因表示，直到不久前，网络安全韧性的传统定义还是：CISO能否在未对组织造成重大损害的前提下，及时检测并从安全事件中恢复。
"韧性现在需要回答第二个问题——不仅仅是'我们能否恢复'，还要问'我们是否清楚此刻环境内部正在发生什么、有哪些数据正在外泄、在什么权限下运行、又是出于什么原因'，"索因说。
Smartsheet应对AI智能体挑战的方案是"Smart Hub"——一个用于统一管理AI工具的中央控制面板。"环境中的每个AI智能体都在其中完成配置、归属认定和监控……所有智能体的可视化信息都汇聚于此，"他说。
"我们将智能体身份作为一个资产库纳入企业数据仓库管理，其中列明了每一个存在的智能体，公司内运行的每一个MCP都经过识别，并形成完整的拓扑关系图，"索因说。
组织需要能够回答关于AI智能体的三个核心问题：它们在组织内执行了哪些操作、跨越了哪些系统，以及在何种条件下发生的。"如果这些问题你都无法回答，那就谈不上真正的韧性，"他说。
Q&A
Q1：什么是"AI孤儿"智能体？它会带来哪些安全风险？
A：AI孤儿智能体是指员工离职后遗留在企业系统中、无人管理的AI智能体。这类智能体可能仍持有对敏感数据的访问权限，包括个人隐私信息、医疗数据或人力资源数据，从而成为潜在的攻击入口。由于传统身份与访问管理工具无法有效识别和管理AI智能体，一旦这些"孤儿"智能体的账户未被及时停用，就会对企业信息安全构成持续威胁。
Q2：企业应该如何管理AI智能体的身份和权限？
A：企业可采取多项措施应对这一挑战。首先，应将每个AI智能体视为独立的身份主体，建立完整的智能体资产库，记录每个智能体的归属、权限和行为。其次，可采用AI智能体证明技术，通过密码学方法验证智能体身份的可信度。此外，Smartsheet等企业已建立中央控制面板统一管理所有AI工具，确保对智能体的操作、涉及系统及触发条件实现全面可视化。
Q3：AI智能体扩散对企业的网络安全韧性有哪些影响？
A：AI智能体的大规模扩散重新定义了企业网络安全韧性的内涵。过去，韧性主要关注企业能否快速检测和恢复安全事件；如今，企业还必须清楚掌握内部环境的实时动态：哪些数据正在流出、哪些操作正在发生、相关权限归属于谁。如果企业无法回答这些问题，即便具备事后恢复能力，也难以称得上真正具备安全韧性。
