人工智能
快速将AI工具和服务整合进工作流程的企业，往往对可能暴露系统漏洞的内外部威胁准备不足，多位分析师对此发出警告。
"我认为他们还没有做好准备，"Gartner网络安全研究主管Pete Shoard表示，"这里有个根本性的问题——我们长期以来一直在做同样的事情，但效果并不理想，现在是时候做出改变了。"
外部威胁可能出现在以下情形：用户在不知情的情况下，将敏感信息泄露给大语言模型；AI工具也可能将敏感文件上传至GitHub等公共代码仓库。
"目前最大的风险是，通过'氛围编码'（vibe-coded）应用上传到GitHub的硬编码密钥，这些密钥可能成为攻击者入侵企业系统的通道，"Shoard说道。
因此，企业需要提前布局，在威胁具体化之前就对内外部隐患进行检测。这也使得攻击面管理工具重新受到关注——这类工具可对内外部系统进行评估，以预测和防范潜在攻击。
"企业正在从被动应对转向主动防御。不再是'发现威胁后再处理'，而是'提前模拟威胁场景，然后主动修复问题'，"Shoard说。
外部攻击面管理工具可以扫描面向公众的网站、文件仓库和社交媒体，寻找企业的数字资产，包括仿冒网站、暴露的服务器或含有敏感信息的文件。一旦企业掌握了威胁暴露情况，便可对其进行优先排序，并通过协调修复流程加以处置。
"AI正在强化这些步骤中的各个环节——既体现在供应商评估信号的方式上，也体现在客户与数据交互的方式上，"Forrester高级分析师Erik Nost表示。
当企业急于将AI拼接到现有IT系统上以解决问题，却未将安全或治理纳入规划时，安全问题便随之而来。J. Gold Associates首席分析师Jack Gold指出，这对中小企业而言尤为突出，因为大型企业通常将威胁检测与响应列为工作重心。
"网络上存在大量隐秘的暗面，"Gold说，"大多数企业更倾向于建立安全屏障来抵御攻击，而非主动探查外部有哪些与自己相关的信息。"
中小企业的应对能力往往更为薄弱，既缺乏内部管控机制，又不愿意或没有能力为大型安全服务商支付费用。
"Mandiant、CrowdStrike等大型安全公司会为大客户提供相关服务，当然这些合同服务的费用通常不菲，"Gold说。
与此同时，随着越来越多的AI智能体被部署和使用，企业的技术债务也在不断攀升。大量智能体的涌现——其中许多可能存在故障或引入新的攻击面——给安全防护带来了额外负担。
面对持续扩大的威胁格局，目前已有数百家供应商推出了涵盖漏洞扫描、攻击路径映射、威胁情报及多层次防护的产品与服务。
主要厂商包括Palo Alto Networks和CrowdStrike，此外一些专注细分领域的小型公司同样不可忽视：Tenable和Rapid7在网络监控方面实力突出，而今年3月被谷歌收购的Wiz则专注于云安全监控。
部分产品甚至采用"以攻制攻"的思路。"有一种叫做Thinkst Canary的技术，属于蜜罐技术，"Shoard介绍道，"蜜罐，顾名思义，是为了吸引攻击者，从而更深入地了解其攻击手法。"
在检测环节可以高度自动化的同时，修复工作则需要不同的工具支撑。"企业不会对这些问题进行自动修复，而是非常审慎地评估后再进行补丁处理，"Shoard说。
Q&A
Q1：大语言模型会带来哪些安全风险？
A：大语言模型面临的主要安全风险包括：用户在不知情的情况下将敏感信息泄露给模型，以及AI工具将敏感文件上传至GitHub等公共代码仓库。其中最突出的风险是通过"氛围编码"应用将硬编码密钥上传至公共仓库，从而为攻击者提供入侵企业系统的途径。
Q2：攻击面管理工具是如何帮助企业防范AI安全风险的？
A：攻击面管理工具通过扫描面向公众的网站、文件仓库和社交媒体，查找企业暴露的数字资产，包括仿冒网站、未受保护的服务器或含有敏感信息的文件。企业在获得这些威胁的可见性后，可对其优先排序并协调修复，从而实现从被动响应到主动防御的转变。
Q3：中小企业在AI安全防护上面临哪些困难？
A：中小企业在AI安全防护上普遍面临能力不足的问题，主要原因包括缺乏内部管控机制，以及难以负担Mandiant、CrowdStrike等大型安全服务商高昂的合同费用。相比之下，大型企业通常将威胁检测与响应作为工作重心，在资源和专业能力上占有明显优势。
