今年3月，Janice Malone开始接到关于其非营利组织"Vivian's Door"出现异常活动的电话。这家总部位于阿拉巴马州的机构，主要为服务不足和少数族裔企业主提供培训、资源和社区支持。由于工作性质，该机构与这些企业的财务数据有密切接触，并将这些数据存储在自己的系统中。但突然间，来自世界各地的担忧来电者警告她，他们收到了"乞求汇款"的邮件——而这些邮件并非Malone本人发送。
该机构的第三方IT团队将系统下线三天进行调查并修补漏洞，这让Malone承担了约3000美元的费用。她担心自己可能已经泄露了正在帮助的企业的信息。更令人不安的是，她并不完全确定这次攻击是人为黑客所为，还是借助了AI系统，也不知道是否还会有更多攻击袭来。
过去几个月，AI给网络安全领域带来了颠覆性变化。OpenAI和Anthropic披露，"失控"的系统曾突破实验室内部的限制，攻击目标从一个小型德语维基网站到澳大利亚政府机构不等。在此之前，像Anthropic的Mythos这样强大的模型就已经引发了AI网络安全领域的军备竞赛，甚至一些轻量级模型也让人类黑客的攻击能力得到大幅提升。
Malone不确定Vivian's Door遭受的攻击是否涉及AI。但在充斥着自主智能体集群和国家安全风险的报道中，她感到格外担忧。大型AI公司一直在炫耀其新模型能够在"每一个主流操作系统和网页浏览器"中发现漏洞，而它们的知名客户也纷纷与之达成协议，用同样的工具来进行防御。那么，像她这样的机构又该何去何从？
人类，而非失控的AI，仍是能源系统面临的最大网络安全风险
"谁知道下一个漏洞在哪里？你只知道自己已经中招的那一个，"Malone说，她补充道，"你要怎么保护自己？我是说，真的能做到吗？"
AI智能体在网络安全和编程方面的能力已经变得异常突出，且能够以极大规模部署。即便是对AI了解有限的攻击者，也能利用这些新的自动化系统进行"氛围式黑客攻击"，而那些曾经只专注于最有价值目标的黑客，现在也能采取"广撒网"式的攻击策略。2025年8月，Anthropic表示，一个复杂的网络犯罪团伙利用Claude Code在一个月内从医疗机构、应急服务部门、宗教组织甚至政府机构中勒索数据。
"过去可能需要一个由多名高水平人员组成的团队才能完成的事情，"Anthropic威胁情报团队负责人Jacob Klein在当时接受The Verge采访时表示，"现在，借助智能体系统，单个人就能完成。"
理论上，AI也应该能够加固网络防御；据报道，Anthropic的Mythos发现的漏洞数量之多，让微软都难以跟上修复速度。但出于对潜在危险的担忧，顶级AI实验室只允许少数知名机构访问其最强大的网络安全模型，如Mythos和OpenAI的Astra。这些机构包括英伟达、谷歌和苹果等公司，以及其他"关键基础设施提供商"和"关键开源软件维护者"。即便获取渠道更加广泛，对许多小型机构来说，费用也可能过于高昂。
如今，从医疗诊所、市政机构到小型零售商和像Vivian's Door这样的非营利组织，这些机构都担忧一种日益失衡的权力格局正在形成。正如Apollo Research首席执行官兼联合创始人Marius Hobbhahn今年夏天在接受The Verge采访时所说，"某个躲在地下室里、拿着某个开源模型的人，很可能就能入侵一家医院并索要赎金。这正是我预计伤害会最集中体现的地方——不是在硅谷……我预计受害的会是爱达荷州某个普通医院。"
未来生命研究所（Future of Life Institute，一家专注于降低科技大规模风险的非营利组织）美国政策负责人Michael Kleinman表示，中小型机构尤其容易受到AI智能体给有限数量的人类黑客带来的能力放大效应的冲击。尽管规模不大，这些机构却为用户提供着至关重要的服务。"美国银行有大量资源可以投入应对，但社区银行呢？储蓄贷款机构呢？信用合作社呢？地方医院网络呢？地方电网呢？"Kleinman说，"过去的限制因素是全世界的恶意黑客数量有限，而现在这个限制已经不存在了。"
Vivian's Door的Malone表示，和大多数小企业或非营利组织一样，她没有资源雇佣全天候的网络安全团队或专门搜寻未知威胁的IT人员。"作为一家小企业，我真不知道在这样的IT预算下，怎么才能做到真正的全面防护，"她说。为加固Vivian's Door系统而支出数千美元的意外费用已经很艰难了，她说，更别提她还得支付员工工资，而且连续多天无法开展任何业务。如果这类攻击的频率上升，她根本无力应对。
华盛顿特区周边一家小型连锁五金店The Cool Hardware Company的首席执行官Craig Smith表示，AI在人手有限的情况下，对小企业处理日常事务确实很有帮助。但他也承认，AI整体带来的网络安全风险——不仅针对像他这样的小公司，也针对他所使用的更大规模的系统。这些系统包括微软的Outlook、Copilot、Teams和Forms等工具，也包括由大型非科技公司管理的采购和配送工具。The Cool Hardware Company使用Ace Hardware的系统来处理这些事务，如果这些系统瘫痪，Smith的生意将很难维持。
"我欢迎创新和变革，但任何重大技术转变都需要伴随相应的责任，"Smith说。
马里兰州本地杂货店Takoma Park Silver Spring Co-op的总经理Mike Houston表示，作为一家小企业，他曾亲身经历过黑客攻击——并担心在AI时代再次遭遇。他说，近年来他曾遭遇"刷卡攻击"：黑客利用合作社的在线购物平台测试成千上万张被盗信用卡，产生的处理费用最终由他承担。"即便几乎所有交易都被拒绝，短时间内仍可能产生数千美元的费用，"Houston说。他已经采取了必要措施来加固系统防范这种行为，但他说这"并非万无一失"。
该店计划开设第二家分店，员工规模也可能因此翻倍，因此他觉得需要首次实施新的测试程序和漏洞排查机制。他说，近年来他还为合作社的商业保险增加了一项IT责任险。
"作为一家资源有限的小企业，这确实是个令人担忧的问题，"Houston说，"我想我们和其他人一样，都在用现有的资金和培训资源尽力而为。"他表示，他更担心那些规模比自己还小的合作社，那里的管理者往往要亲自处理IT工作。
专注隐私保护的邮件服务商Proton的安全负责人Patricia Egger表示，小企业被迫快速采用AI工具的压力，本身就可能带来漏洞。就像面对其他陌生技术一样，它们可能无法立即建立起或跟上网络安全最佳实践。当员工"被赋予任务或获得许可，'想办法用上AI，想办法让工作更高效'时，他们会变得非常有创造力，而事后再去建立管控措施、基础设施和流程就会非常困难，"她说，并补充道，"一旦打开了潘多拉的盒子，就很难再收回了。"
面临网络攻击风险最高的行业之一是医疗保健。2021年5月，一次勒索软件攻击迫使加州医疗机构Scripps Health关闭关键业务，导致患者数据泄露、诊疗效率下降。一份2024年的报告指出，医疗行业面临的全球网络攻击率位居第二，仅次于政府部门，而初始赎金要求往往超过400万美元。整体黑客攻击事件的增加，可能会给该行业带来尤其沉重的打击。
俄亥俄州Fisher-Titus医疗中心首席运营与信息官Linda Stevenson表示，她"当然"担心AI驱动的网络攻击可能大量出现。"你永远无法做到你想要的那种万全防护，"她说。该医疗中心目前雇用了名为UpGuard的第三方网络风险管理合作方，并在两年前聘请了第一位网络安全分析师，Stevenson说——但即便网络安全威胁在上升，他们目前也只有这一位分析师。
"我们做的事关乎生死，"她说，并补充道，"医院几乎涵盖了从账单到市场营销的所有业务，就像一个小城市一样。但其核心是那些照护患者的人员，如果我们无法保护他们和他们的数据，进而无法保护患者的数据，那么患者就会面临风险。"
前急诊室医生、现任医疗安全公司Imprivata首席医疗官的Sean Kelly表示，医疗行业总体而言可能是勒索软件攻击的"更大蜜罐"。任何诊断或治疗都离不开对数字系统的访问，以查询既往病史、过敏情况、其他用药信息等，这进一步加大了机构支付赎金的压力。此外，他说，很多医护人员需要频繁在不同工作站之间快速切换，需要不断地登录和登出设备。
"在医疗行业，很多时候面临的风险更高，但预算却更低，"Kelly说，"勒索软件攻击者深知医疗系统的价值所在，因为医院不能瘫痪，一旦系统停机，患者受苦、系统受损、账单收入减少、财务状况恶化，诊疗也会延误甚至无法进行。所以这类数据更有价值，因为医疗数据同时也包含了财务和人口统计数据，这让它对勒索软件攻击者而言更具吸引力。"
Kelly表示，除了智能体集群带来的威胁外，AI还让黑客更容易发现这些漏洞并加以利用，比如通过对帮助台进行语音钓鱼攻击等手段。而当一家医院遭遇系统中断时，往往会产生"爆炸半径"效应，波及周边其他医疗机构，导致等待时间延长、患者被迫转诊等一系列问题。
"他们根本没有足够的IT人员或预算，来抵御许多最新的AI驱动的黑客攻击、勒索软件和其他网络安全威胁，"Kelly说，"即便拥有庞大的IT团队和充足的预算，应对起来都很困难，而很多时候，农村医院使用的还是更老旧、更过时的软件系统和技术架构，本身就存在漏洞。"
对于中小型机构而言，无论所处哪个行业，它们的系统和网络安全防御本身往往就比大企业更为脆弱，尤其是在AI正在增强黑客人力、放大网络攻击威力的当下。
"只要有一个漏洞，就足以造成问题，"Kelly说。
Q&A
Q1：AI是如何增强黑客攻击能力的？
A：AI智能体在网络安全和编程方面表现出色，能够大规模部署，使即便对AI了解有限的攻击者也能进行"氛围式黑客攻击"。原本需要专业团队才能完成的复杂攻击，现在借助AI系统，单个人就能完成。
Q2：为什么中小型医院和银行面临更大的网络安全风险？
A：因为它们缺乏像大公司那样的资源来雇佣全天候网络安全团队，同时又使用较老旧的软件系统。而AI增强了黑客的攻击能力，让恶意攻击者数量的限制不再成立，中小机构因此成为更容易被攻击的目标。
Q3：普通企业该如何应对AI带来的网络安全威胁？
A：目前专家建议企业加强IT责任保险、雇佣第三方网络风险管理服务、建立漏洞排查机制，并在采用AI工具时同步建立相应的安全管控流程，避免因追求效率而忽视安全防护的搭建。
