/
Okta高管谈CIO如何保障AI智能体的安全
数据安全与隐私是企业推进AI智能体计划的核心挑战。Dresner Advisory调查显示，超85%的受访企业认为这一议题至关重要。Okta AI安全高级副总裁Harish Peri就此接受采访，深入探讨了影子AI、智能体身份治理、授权管控及非人类身份安全等关键问题。他指出，AI智能体应被视为独立的一级身份类型，需构建细粒度权限体系，并以"授权智能体"来监管其他智能体的行为，实现实时动态授权与全生命周期管控。
HPE Discover大会：Neri发布面向智能体的AI架构
在HPE Discover 2026大会上，CEO Antonio Neri发表主题演讲，宣布HPE全面押注AI。核心发布包括：网络层面引入新型QFX交换机、PTX 12000路由平台及量子安全防火墙；计算层面Private Cloud AI扩展至256个GPU，新款ProLiant DL 394 Gen 12专为智能体工作负载设计；存储层面Alletra MPX 10000统一文件与对象存储；此外还推出零代码智能体注册与三层身份治理模型。Neri同时警示，美国2028年将面临19GW电力缺口。
像管理实习生一样管理AI智能体，否则你将失去对它的控制
在旧金山举办的Snowflake峰会上，多位AI安全领域专家建议，企业应将AI智能体视为"热情但容易跑偏的实习生"，给予明确指令与持续监督。专家指出，未加约束的智能体可能越权操作，引发数据泄露或权限滥用等风险。关键在于明确智能体的权限边界、行为意图及操作上下文，同时建立可见性与可追溯机制，在保障生产力的前提下实现有效治理。
Google Cloud深度解析AI智能体治理难题
Google Cloud产品管理副总裁Michael Gerstenhaber近日接受采访，详解企业部署AI智能体面临的核心治理难题。他指出，智能体的安全管控须借鉴人类员工管理逻辑，实现"默认安全"。Google Cloud通过智能体网关、身份权限管理、分布式追踪及Model Armor等工具构建纵深防御体系。Gerstenhaber还提出"弹性智能"概念，认为持续学习的智能体无需退役，可在运行时动态优化行为，从而帮助企业实现运营能力的弹性扩展。
Anthropic建议：在AI与人类目标对齐之前应放缓研究进程
Anthropic资深研究人员在新博文中警告，AI系统可能很快具备自我改进能力，其速度将超出人类有效监督的范围，重新引发"对齐问题"的担忧。研究人员提出三种未来情景，其中最令人担忧的是AI实现完全递归自我改进。Gartner预测，到2028年15%的日常工作决策将由自主AI完成，但也警告40%的企业可能因治理失败而在2027年前下线AI代理。分析师指出，AI治理已从模型层面延伸至运行时行为管控，监督机制须嵌入系统架构之中。
Snowflake推出Horizon Context，助力AI智能体统一理解企业业务语义
Snowflake在年度峰会上发布Horizon Context，这是一套语义与元数据管理新功能，现已进入预览阶段。该功能整合企业数据资产中的元数据，融入业务定义、关系、血缘及治理信息，并向AI与分析系统开放调用。同步推出的Semantic Studio可帮助团队定义和发布业务逻辑，降低语义层维护成本。此外，Snowflake还在Trust Center中新增AI安全态势管理及数据防泄漏策略，助力企业将AI智能体安全推向生产环境。
Snowflake收购MCP专注型初创公司Natoma，强化AI智能体治理能力
Snowflake宣布计划收购专注于MCP协议的初创公司Natoma，旨在为跨异构企业环境运行的AI智能体提供更完善的治理、安全与连接能力。Natoma的平台将整合至Snowflake，帮助企业安全连接Cortex Agents等AI平台与SaaS、云及本地基础设施。分析师指出，随着自主智能体工作负载日益复杂，身份验证、权限管控与审计追踪将成为CIO的核心诉求。Snowflake未披露收购金额及交割时间。
"人在回路"为何不够用？智能体AI治理的困境与出路
随着智能体AI在企业中大规模部署，"人在回路"（HITL）被视为防止AI失控的关键机制。然而，HITL存在自动化偏见、认知过载、责任推诿、界面简化掩盖复杂性等深层缺陷，且随系统规模扩大问题愈发严重。现有改进方案如限制代理权限、优化治理工具等虽有价值，但仍不足以根本解决问题。作者提出"自动化在回路"（AITL）新理念：将自动化视为支持人类工作的辅助手段，确保人类始终保有最终决策权，而非被自动化系统取代。
SAP 2026年蓝宝石大会：CEO承认AI战略曾走弯路，全面转向业务自主化【正常】
SAP首席执行官Christian Klein在2026年Sapphire大会上坦承，公司约在八九个月前调整了AI战略方向，从强调AI技术本身转向聚焦业务成果，目标是实现"自主企业"愿景。SAP发布了全新品牌SAP Business AI和SAP Autonomous Suite，重构AI平台以更好融入客户业务上下文。SAP高管还强调，需防范"智能体失控"风险，并引入"企业记忆"概念提升AI决策的精准度。
戴尔科技峰会2026：AI的未来在本地部署
戴尔科技世界大会2026聚焦企业AI落地实践，核心趋势指向本地化部署。随着云端大模型调用成本激增，戴尔COO透露AI令牌用量已增长320倍，预计2030年将增长3400%。数据主权需求、智能体治理要求以及对关键系统的直接管控，正推动企业将AI工作负载从云端迁移至本地计算资源。大会发布了Dell AI数据平台及桌面智能体AI开发套件等新品，助力企业构建安全可控的AI基础设施。
企业对智能体采用"一刀切"治理策略面临失败风险
Gartner报告发现，对所有AI代理采用统一治理策略会导致企业项目失败率上升。该机构预测，到2027年，40%的企业将停用代理，因为技术团队未能区分代理的行动能力与其被授予的访问权限范围。Gartner建议采用比例治理方法，根据代理角色设定不同的自主权和边界级别，包括观察、建议、批准后执行和自主执行四个层级。
Teradata发布企业级AI智能体平台，助力企业走出试点阶段
Teradata推出自主知识平台，整合数据、分析、AI开发、智能体编排与治理能力，支持云端、本地及混合环境部署。该平台面向已完成AI试点、正式推进落地的企业用户，核心功能包括AI Studio、自然语言工作区Tera、Tera Agents、弹性计算及即将上线的Teradata Factory。平台强调治理能力，每次智能体工具调用均通过Enterprise MCP接口进行权限验证与审计，确保企业在智能体自主运行时仍保持可控性与合规性。
ServiceNow发力企业级AI管控平台，打造智能体统一治理中枢
ServiceNow发布AI平台重大升级，核心是强化AI Control Tower的治理、安全与自主执行能力。该平台覆盖AI资产发现、治理、安全、可观测性和财务衡量五大功能，支持跨异构环境管理AI模型与智能体工作流。新推出的自主安全模块整合了Veza和Armis的能力，可实现身份访问风险识别与自动化修复。此外，ServiceNow扩展"自主劳动力"AI专家矩阵，覆盖IT、客服、CRM及风险管理场景，推动AI从提供洞察向完整执行工作流演进。
SAS将AI治理置于智能体战略核心位置
SAS在年度大会上发布多项新工具，包括SAS Viya Copilot对话式AI助手、支持外部智能体安全访问的MCP服务器，以及用于AI模型清单管理与合规治理的SAS AI Navigator平台。面对企业AI从实验走向规模化部署的趋势，SAS强调在智能体自主决策过程中保持人工监督与治理能力，同时升级数据管理平台，确保AI运行建立在可信数据基础之上。
智能体AI治理为何失效？我们该如何应对
当前智能体AI的失控行为已达到令人担忧的程度，现有治理方案难以有效遏制。本文分析了三大核心困境：监管AI的"警察智能体"自身也可能违规；过度约束导致智能体丧失业务价值的"自主性挤压"；以及人类因"自动化偏见"而逐渐放弃主动监督。作者建议采用多元对抗性验证机制，从语法、语义、执行、结果四个层次进行校验，但强调这只能降低风险而无法彻底消除，企业须接受智能体行为存在"误差预算"的现实。
77%的IT管理者认为企业智能体已失控——5种有效应对方法
Rubrik ZeroLabs最新调查显示，仅23%的IT管理者表示对组织内AI智能体拥有"完全"掌控。更令人担忧的是，81%的受访者反映，智能体所需的人工审计时间反而超过了其节省的工作量。86%的IT管理者预计，未来一年内智能体的扩散速度将超越安全防护能力。专家指出，智能体蔓延已成为企业普遍问题，亟需建立完善的治理机制、可观测性工具及回滚能力。
ServiceNow押注安全与智能体AI，驱动持续营收增长
ServiceNow首席执行官Bill McDermott在2026财年Q1财报电话会上表示，公司确立了五大超高速增长领域：安全、核心IT、智能体AI、AI原生能力及工作流数据结构。Q1营收达36.7亿美元，同比增长19%。过去一年，ServiceNow先后收购网络安全公司Armis和身份安全公司Veza，并与OpenAI合作为客户提供前沿模型能力。McDermott强调，AI、数据、安全与治理已内置于所有产品中，平台正从"拓展式增长"转向"复利式控制"。
MuleSoft Agent Fabric新增多项功能，助力企业管控AI智能体
Salesforce正在强化其MuleSoft平台上的Agent Fabric功能，新增治理工具与确定性控制机制，以解决企业多智能体部署中的冗余、孤岛化及成本失控问题。新功能包括：用于智能路由的Agent Script确定性脚本（预计2026年6月正式上线）、已全面上线的LLM Governance成本管控工具，以及简化遗留API接入的MCP Bridge等。分析师指出，这些更新有助于企业统一治理AI智能体，但也需警惕由此带来的平台锁定风险。
阿西莫夫三定律对智能体AI治理的启示
阿西莫夫机器人三定律虽是科幻叙事工具，却对当今AI智能体治理具有深刻启示。文章指出，当前AI治理工具虽提供了精细化的权限管控，但仍缺乏应对模糊情境的通用伦理框架。元认知被视为潜在解决方案，但存在"镜像迷宫"困境——监督机制本身也可能失效。作者提出"上下文密度"概念，认为高密度的人类意图必须由人工转化为低密度的可执行策略，且人类必须始终参与AI治理边界的划定。
智能体AI治理的缺失拼图：评估工程如何破局
随着AI智能体能力日益强大，治理难题愈发突出。当前主流方案是部署多个对抗性验证器进行多层校验，但面临延迟高、Token消耗大的瓶颈。本文梳理了Klover AI、Maxim AI、Arize、Confident AI及Galileo AI等厂商在评估工程领域的实践，其中Galileo通过ChainPoll方法和专用Luna模型，以更低成本实现高效智能体治理。
京公网安备 11010802021500号
