针对智能体相关安全事件频发的担忧，Nvidia于周一发布公告，推出了开放智能体安全平台，以加强AI安全，并为智能体增添治理和控制能力。据Nvidia介绍，该平台可实现跨软件、硬件及计算资源的智能体治理。
Nvidia该平台包含Nvidia OpenShell，为AI智能体跨AI模型执行任务时提供安全的运行时边界。平台还包含Nvidia Sentry，用于持续监控智能体行为，并在其试图突破既定边界时予以阻止。
“鉴于智能体的活动范围从极低风险任务到高度敏感和高风险操作都有涉及，出现一个覆盖所有智能体和场景的统一治理平台是不太可能的，单一平台或许无法适配所有这些场景，”Futurum集团企业软件与数字化工作流副总裁兼研究总监基思·柯克帕特里克通过电子邮件告诉CIO Dive记者。
随着智能体突破边界的相关报道持续引发CIO的关注，企业将继续密切关注智能体的行为表现。但科技领导者不太可能锁定单一平台来统一治理所有智能体。
柯克帕特里克表示，相反，在CIO们审视和评估来自超大规模云服务商、安全公司及智能体平台提供的治理方案时，他们正在利用自身已运行的平台中的控制面板来治理智能体。
Gartner高级总监分析师劳伦·科努蒂克表示，Nvidia的这一平台将智能体治理定位为基础设施层面的决策，但CIO们仍需要审视AI的交付与决策治理问题。
“我们目前缺失的是智能体自身的路径规划和编排机制，”她说，“它们可容许的偏离范围是什么？存在不被允许的偏离行为，这套方案能够应对，但同时也存在被允许的偏离情形。”
不过，科努蒂克表示，Nvidia该平台高度聚焦于强化智能体安全性，这使其成为建立智能体间通信标准的正确一步。
据Nvidia公告显示，包括微软、Salesforce、Anthropic、SpaceXAI和CrowdStrike等超过100家机构，正与Nvidia开放智能体安全平台或其相关技术展开合作。SpaceXAI正将该平台应用于其Grok模型和Cursor编程智能体。同时，Salesforce已将OpenShell与Slack完成集成。
谷歌、AWS和OpenAI并未出现在与Nvidia合作该平台的企业名单中。OpenAI于二月推出了自有的Frontier企业平台，帮助机构管理智能体，并明确该技术的权限与防护边界。谷歌的智能体治理则以其Gemini Enterprise Agent Platform为核心，而亚马逊Bedrock AgentCore则为智能体内置了安全机制。
“在CIO群体中，智能体治理领域面临的一大挑战在于，目前尚不存在一套能够适用于不同应用场景的通用框架，”科努蒂克说，“这是朝着帮助实现智能体间通信迈出的极具意义的一步。”
Q&A
Q1：Nvidia开放智能体安全平台是什么？
A：这是Nvidia推出的一个平台，旨在为AI智能体提供安全治理，涵盖软件、硬件和计算资源，包含OpenShell和Sentry两大核心组件，用于设定运行边界并监控智能体行为。
Q2：哪些公司在使用Nvidia开放智能体安全平台？
A：目前超过100家机构在使用该平台或相关技术，包括微软、Salesforce、Anthropic、SpaceXAI和CrowdStrike等，其中SpaceXAI将其用于Grok模型和Cursor编程智能体。
Q3：谷歌、AWS和OpenAI有没有加入Nvidia这个平台？
A：没有。这三家公司都有自己的智能体治理方案，OpenAI推出了Frontier企业平台，谷歌依托Gemini Enterprise Agent Platform，亚马逊则通过Bedrock AgentCore内置安全机制。
