根据一份最新报告,由于企业不清楚AI智能体正常行为的具体表现,它们在监管这些智能体方面正面临困境。

安全公司Abnormal AI上周发布的报告显示,近半数(46%)安全专业人士表示,他们无法为智能体AI活动建立安全基准。

该报告揭示了企业在加大AI部署力度时应优先关注的AI监管安全漏洞。

建立行为基准是企业防止AI智能体失控、或被武器化用于破坏运营及窃取数据的最重要步骤之一。专家表示,为了优化检测潜在恶意行为的工具,企业需要清晰掌握智能体在网络中正常运作时的表现模式。

企业已经意识到这一需求。根据Abnormal AI的报告,在投资行为监控技术的企业中,超过四成将该技术用于AI智能体——这一比例远高于其他任何企业技术领域。近三分之一的受访者表示,智能体AI是他们亟需改进基准构建能力的最重要领域之一。

与此同时,超过半数(53%)的受访者表示,他们的组织完全没有为机器身份(包括AI智能体)建立正常行为基准。

一家未具名B2B软件公司的高级安全主管在接受调查时表示:"几乎我接触过的每一位首席信息安全官都将此列为明年的首要投资方向。"但该主管同时指出,"目前并没有明确的计划"来确保这项投资获得回报。"我们不知道解决方案是什么,但大家都准备投入资源。"

治理AI智能体的难点之一在于,它们模糊了人类行为与机器行为之间的界限,因为智能体有时代表人类执行任务,有时则会自主采取行动。

Abnormal AI表示:"这使得建立在身份、访问权限和操作行为之间相对稳定关系基础上的安全模型变得更加复杂。"该安全公司指出,企业现在不仅需要判断智能体是否被允许执行某项操作,还需要判断在给定指令的情况下,智能体执行某项特定任务是否合理。

Abnormal公司销售行为分析平台,该报告基于对六个国家525名安全专业人士的访谈。每位受访者代表一家员工规模不低于1000人的企业。85%的受访者是首席信息安全官或安全运营中心负责人。

报告显示,行为分析技术存在局限性,这削弱了安全专业人士对其分析结果的信心。近四成受访者表示,他们在监控网络行为方面面临的一个关键障碍是难以理解或信任所收到的行为警报。

根据Abnormal的报告,信任问题、"正常"行为难以界定以及大量误报警报,是安全专业人士在分析网络行为时面临的三大主要障碍。该安全公司指出,值得注意的是,这三个问题的排名甚至超过了人员配置、预算和工具能力等更为传统的障碍。

CIO DIVE