Salesforce和Databricks近日相继发布AI智能体治理功能,旨在加强企业对智能体运行的管控。随着智能体被快速纳入工作流程,企业往往同时部署多个产品,容易造成"智能体蔓延",带来安全风险与高额运营成本。Salesforce在其Agent Fabric中新增权限管理与合规标准化功能;Databricks则扩展AI Gateway,支持访问控制、API治理及成本记录。分析师建议CIO结合自身架构选择治理工具,并将FinOps与智能体治理统一纳入管理体系。
AWS正式预览推出AWS Agent Registry服务,这是一个集中化的AI智能体发现与治理平台,旨在解决企业因大规模部署AI智能体而产生的"智能体蔓延"问题。该服务支持跨云平台及本地环境的智能体索引,提供结构化元数据管理、混合语义搜索及审批工作流等功能。开发者可通过该平台复用已有智能体,避免重复开发。西南航空等企业已率先试用并反馈积极。该服务目前在五个AWS区域开放预览。
Gartner发布首份AI守护代理市场指南,标志着这一新兴领域的重要里程碑。报告显示近70%企业已在生产环境中部署AI代理,但快速采用超越了传统治理控制,增加了运营失败和合规风险。文章分析了AI代理监督的必要性,介绍了可视性追溯、持续保障评估、运行时检查执行三大核心功能领域,并详述了六种新兴交付集成方法。强调企业需要独立的守护代理层来实现跨平台治理。
德勤最新报告显示,企业部署AI智能体的速度远超安全协议和防护措施的建设进度,引发安全、隐私和责任担忧。调查发现,仅21%的组织对AI智能体实施了严格治理,但使用率预计将从23%增至74%。专家建议采用"受控自主"模式,通过明确边界、详细日志记录和人工监督来确保安全。报告强调,只有在可见性和控制力基础上部署AI智能体的企业才能获得竞争优势。
企业网络中AI代理数量激增,给管理多云基础设施的领导者带来治理盲点。IDC预测到2029年活跃部署的AI代理将超过10亿个。Salesforce通过扩展MuleSoft Agent Fabric功能应对这一挑战,推出自动化发现工具来集中管理AI代理。该系统通过Agent Scanners持续扫描主要生态系统,自动检测运行中的代理,提取元数据并标准化为A2A规范,为企业提供统一的可见性和控制能力。
自动化技术领袖指出,AI驱动自动化的真正价值不在于节省时间,而在于实现以往无法完成的工作。市场正从简单任务自动化转向能力自动化,企业需要在确定性系统和概率性系统间找到平衡。成功实践包括专注高杠杆任务、设计有目的的自动化流程、保持人工监督和设置安全边界。随着AI技术快速发展,企业需要在追求效率提升的同时建立有效治理机制。