微软于本周一推出了旨在保护企业免受日益增长的AI智能体威胁的新安全功能。此次发布正值微软持续就AI与智能体风险向企业发出警告之际。
此次更新中最值得关注的新增功能是Guardian Agents，该功能专门用于监控企业所使用的AI智能体，属于6月发布的Project Perception产品的一部分。
Project Perception是微软针对Anthropic的Mythos与Fable、以及OpenAI的安全漏洞扫描系统Daybreak等强大黑客模型推出的应对方案。该产品最初设有三类智能体："红队"扮演黑客角色发起攻击，"蓝队"负责检测红队攻击并评估其发现的漏洞，"绿队"则负责修复问题。
该产品最初的设计前提是：AI黑客威胁将来自公司外部。但近期，微软CEO萨提亚·纳德拉（Satya Nadella）警告称，AI威胁可能恰恰来自企业自身部署并付费使用的智能体，这种情况类似于人类内部的"内鬼"，即所谓的"内部威胁"。
本月早些时候，纳德拉在其个人博客中警告称，即便AI模型提供商为其智能体产品提供安全保障承诺，企业也不应再盲目信任这些厂商。他希望企业建立独立于这些AI实验室的监控系统，用以观察并控制这些实验室产品所启动的智能体行为。
他写道："我们正在部署这些复杂的智能体系统和模型，它们能够访问我们最敏感的数据，并被赋予代表我们执行关键任务的能力！我们不能将智能行为所产生后果的责任外包出去。模型提供商的保证并不能免除我们的这一责任……换句话说，我们需要将智能的供给与对其的管控权分离开来。"
在宣布Guardian Agents功能时，微软安全业务负责人海耶特·加洛特（Hayete Gallot）的表态更为直接。
她写道："遗憾的是，无论出自哪家厂商，前沿模型都无法被完全信任。"她补充说，这并非因为这些模型存在恶意或容易被攻破，而是因为它们的行为具有不可预测性。它们被训练用于完成任务，而非遵循"组织规范或判断力"。
除此之外，这些智能体往往被赋予了近乎"王国钥匙"般的权限，能够访问可能造成严重危害的数据和工具。
微软给出的解决方案既令人意外，也带有明显的自身利益考量。令人意外的一面在于，微软一直以来都与OpenAI和Anthropic关系密切，并对两家公司均有投资。OpenAI同时也是微软云业务的最大客户之一，而微软自身也拥有正在研发模型的AI实验室。因此，微软此举实际上是在削弱部分自身商业利益相关方的信任度。
而自利的一面则在于，微软希望企业从自己这个云服务提供商那里购买智能体安全产品，而不是从Anthropic和OpenAI那里购买。但抛开利益冲突不谈，其背后的逻辑是成立的：监控智能体行为的软件理应独立于智能体的供应商，正如审计机构应独立于被审计组织一样。
正如纳德拉所说："我们需要将智能的供给与对其的管控权分离开来。"
目前，微软正通过多种方式抓住这一商业机遇。除Guardian Agents之外，微软还在其Microsoft Defender产品中新增了智能体检测功能，该功能能够识别多达60种员工私自引入工作场所的智能体，包括Claude Code、Codex和OpenClaw等。微软还新增了相关功能，用以限制智能体对数据和系统的访问权限，并根据具体任务动态调整智能体的权限等级。这包括：当智能体似乎正在做出高风险决策时，要求必须经过人工审批。
这种将智能体视为不可信"内部人员"的理念，正在整个科技行业中逐渐被接受。
微软是英伟达新推出的Open Agent Safety Platform（开放智能体安全平台）的创始成员之一，该平台已获得超过100家其他科技公司的支持。该平台将智能体隔离在安全环境中，并能够通过硬件层面对其行为进行监控和干预，功能类似于一个"紧急制动开关"。此前，微软已宣布推出专为智能体打造的全新Surface Laptop Ultra电脑，该设备搭载英伟达芯片，并内置了智能体安全与控制功能。
Q&A
Q1：Guardian Agents是什么？有什么作用？
A：Guardian Agents是微软推出的新安全功能，属于Project Perception产品的一部分，主要用于监控企业内部使用的AI智能体，防范其可能带来的安全风险。
Q2：为什么微软说AI前沿模型不可信？
A：微软安全业务负责人表示，这并非因为模型存在恶意或容易被攻破，而是因为它们被训练用于完成任务而非遵循组织规范，行为具有不可预测性，加上往往拥有访问敏感数据和系统的高权限，因此存在潜在风险。
Q3：企业该如何防范AI智能体带来的安全隐患？
A：微软建议企业建立独立于AI实验室的监控系统，将智能的供给与管控权分离，同时可借助Microsoft Defender等产品检测未经授权的智能体，并限制其数据访问权限，对高风险决策要求人工审批。
