思科正在扩展其AI Defense安全平台中的自适应AI红队测试能力,引入Anthropic的Claude Mythos。

思科已在其AI Defense套件中增加对Anthropic Claude Mythos的支持,帮助企业客户在潜在攻击者发起攻击之前更快速地识别AI智能体存在的漏洞。

随着AI智能体承担越来越多的职责,并被允许访问企业数据库、应用程序、凭证和业务工作流等资源,这可能会给整个企业带来安全隐患。思科AI威胁情报与安全研究负责人Amy Chang与AI软件及平台产品管理高级总监Vikram Varakantam在一篇博客文章中如此表示。

Chang与Varakantam写道:"将Claude Mythos引入AI Defense,增强了自适应红队测试引擎,使攻击者的推理能力在其中发挥最关键的作用。当引擎试图理解目标系统并规划测试时,模型的推理能力会生成攻击思路。当这些思路转化为具体的攻击载荷时,优势会更加明显:Claude Mythos的能力是在专为授权测试而构建的防护机制下提供的。"

思科的AI Defense套件为正在跨模型和云服务开发AI应用的企业客户提供保护。AI Defense由四个组件构成:AI Access、AI Cloud Visibility、AI Model & Application Validation以及AI Runtime Protection。AI Access提供对谁想要使用或正在使用某个AI应用的可见性,随后对访问进行控制,以保护并强制执行数据防泄漏措施,并缓解潜在威胁。思科表示,AI Cloud Visibility可发现由定制构建的AI应用组成的AI资产,提供AI资产清单的单一视图。

针对网络安全场景进行了优化的Claude Mythos,可以帮助客户更智能地推理攻击过程,并分析AI智能体的配置方式及其可访问的资源。这款先进的AI模型可以帮助安全团队制定针对其特定环境的攻击策略,发现特定的薄弱环节,并预测终端或其他系统对特定问题可能作出的反应。

思科表示,借助Mythos,客户可以发现传统测试可能遗漏的复杂多步骤攻击路径,并在智能体部署到企业环境之前对其进行评估。

Chang和Varakantam引用了Anthropic网络安全负责人Michael Moore的话:"企业正日益将AI智能体融入其核心运营,并希望在将这些智能体投入生产之前对其进行充分测试。通过将Claude Mythos引入思科AI Defense,思科可以帮助安全团队借助先进的推理能力对其智能体进行红队测试,这种推理能力能够为每个系统规划测试并生成攻击思路。"

Chang与Varakantam写道:"[Mythos]模型在AI Defense内部运行,具有固定的任务、已注册的目标,以及由人类用户定义的目标。客户虽然无法获得访问Claude Mythos的开放接口,但他们可以告知目标对象和测试目的,我们的智能体红队测试框架会在这些界限内开展相应工作。我们将此视为一个更广泛转变的早期范例,在这种转变中,与安全最相关的前沿能力将以经过验证、受控访问的方式提供给防御方,而不是对所有人都予以保留。"

Chang与Varakantam写道:"思科设计此次部署时,使其仅针对客户已注册并获得授权测试的目标运行;它以固定任务和人类定义的目标运行,没有客户可自由使用的开放式提示接口,其活动仅限于授权目标,而非更广泛的互联网范围。它采取的每一个行动都可追溯到具名操作者,并被记录以供审计。这些产品层面的控制措施与项目层面的防护和监控措施相辅相成,因此遏制机制不依赖于任何单一环节。"

标准红队测试和自适应红队测试目前已在思科AI Defense中提供。采用Claude Mythos的自适应红队测试即将面向部分企业客户推出。Chang和Varakantam表示,更广泛的可用性计划将在条件允许的情况下,面向符合资质的客户逐步推出。

Splunk功能增强

在另一则AI智能体相关消息中,思科旗下的Splunk表示,正在新增Splunk智能体可观测性功能,使运行在亚马逊云科技(AWS)上的客户能够集中衡量智能体的成本和质量。

思科表示,其构想是为客户提供增强版的Tokenomics功能,通过将AI支出与产出质量挂钩,帮助实现成本治理。该功能提供了一种统一的方式,按成本和业务成果对每个智能体进行监控。

思科表示:"Tokenomics将每个智能体的成本与评估结果相匹配,这些评估对工作的质量和影响进行评分,使组织能够对AI投资回报率获得单一视图。该解决方案利用来自Amazon Bedrock和Amazon CloudWatch的使用数据,再将这些技术指标与客户自定义的业务关键绩效指标(如净推荐值NPS或单次索赔成本)相结合,生成可供高管据以采取行动的投资回报率报告。"

Networkworld