在近期一些引发轰动的黑客事件让人们担忧AI可能“杀死所有人类”之前，我们的能源系统就已经令人不安地容易遭受网络攻击了——而且这种风险正在增长。
“我们一直是猎物，只是勉强在捕食者的胃口范围内生存下来，”安全与技术研究所（IST）公共安全与韧性驻会执行官乔舒亚·科尔曼去年这样告诉我。当时，我正关注国土安全部发出的一份警告，称伊朗相关行动者及其同情者可能会对美国发动网络攻击。
上周，我联系了科尔曼，聊起了最近发生的一些失控AI智能体自行策划复杂网络攻击的事件。就连AI高管们也在讨论，他们正在打造的技术是否会失控到引发某种末日灾难的地步。如果按照一些AI开发者的警告，人工智能未来有10%的几率“杀死所有人类”，那么它在此期间让我们的电力系统瘫痪的可能性肯定也不低吧？
“任何想要发动攻击的反社会分子，现在都比以前更具威力了。”
但当我与科尔曼及其他网络安全专家交流后发现，相比失控的AI智能体，他们更担心生成式AI落入恶意行为者手中。随着科技公司竞相打造更强大的AI模型，无论攻击是由谁或什么发起的，公用事业公司都同样需要加强自身的防御能力。
“说白了，任何想搞破坏的反社会分子，现在都比过去更有能力了，”科尔曼告诉我，“这已经成为一种力量倍增器，而且还在持续增长。”
我们大量关键能源基础设施——负责让家里保持照明、冰箱食物保鲜、医院救命设备正常运转——最初设计时根本没考虑要连接互联网。发电厂的使用寿命通常长达数十年。美国核反应堆的平均年龄约为44年。这些设施在建造之初根本没有考虑到当今的网络安全风险，这使得它们很容易成为黑客的攻击目标。
后来，大部分此类基础设施最终还是连上了互联网。此后，修复由此产生的网络安全漏洞一直困难重重。一些最初设计电力行业现役设备的公司早已倒闭，导致这些“孤儿设备”再也没人开发软件补丁。即使补丁存在，及时应用也是一大挑战。与IT软件升级不同，控制关键基础设施实体设备的运营技术（OT）系统可能只被设计为每季度或每年更新一次。规模较小的公用事业公司也可能缺乏资源、人手和技术能力来采用最新的防御措施。
“AI带来的真正区别在于，它让对手行动得更快——但对基础设施的防御方来说，很难跟上这种速度，”捍卫民主基金会网络与技术创新中心研究员索菲·麦克道尔说道。
在评估生成式AI带来的风险时，意图是一个关键因素。当一个OpenAI模型突破公司训练参数限制，转而攻击AI实验室Hugging Face时，“我们看到的一些复杂程度和能力，着实令人大开眼界，甚至可以说是相当骇人，因为它们的效果太惊人了，”美国公共电力协会网络安全项目高级经理罗布·德纳伯格说道。该协会代表着覆盖2000个市镇的社区自有公用事业公司。
不过德纳伯格指出，即便是在Hugging Face遭黑客攻击以及类似的AI智能体突破原定目标限制的案例中，这些失控智能体依然专注于完成其训练目标。如果有人训练一个模型专门用来攻击能源基础设施，而智能体在这种场景下逃出了“沙盒”限制，那对公用事业公司来说可能才是更大的隐患。但这仍然涉及怀有恶意的人类对手。
历史上，敌对民族国家一直被视为对关键基础设施的最大网络安全威胁。“他们会更有纪律性，”科尔曼说，也更有能力发动复杂的网络攻击。而现在，AI正让技能较低的对手也能更轻松地发起有效攻击。
“一个心怀恶意的人可以利用这些工具，让自己变得比天生具备的能力更强，去攻击一些他们原本根本不懂的东西……因为即便他们不了解OT协议、OT网络和OT策略，大语言模型已经读过操作手册，知道该怎么做，”科尔曼说道。
公用事业公司必须做好更充分的准备，而且无论坏人是谁，防御策略都大同小异。“不管是不是AI，归根结底它仍然是一次网络攻击，”德纳伯格说，“尽管AI能帮助对手把多个漏洞串联起来，并自动化从初始入侵到实施攻击的部分流程……但只要你能在某一环节拦住他们，他们就无法完成整个攻击。”
电力公司可以遵循一系列最佳实践来保护关键基础设施。其中一些属于非网络安全解决方案，比如确保系统在必要时能切换到手动操作模式，或者在某些情况下减少这些基础设施最初的互联互通程度。科尔曼表示，“面对AI带来的挑战，他们开始意识到，如果我们无法保护它，那就干脆断开连接。”
“他们正在为自己部分造成的问题提供帮助解决方案。”
麦克道尔表示，政府和研发先进AI模型的公司同样责无旁贷。她指出，OpenAI首席执行官萨姆·奥特曼最近与公用事业公司会面，讨论保障电网安全问题，这是一个积极的举措。但她认为，这些公司本可以做更多来预防灾难。“他们正在为一个自己部分造成的问题提供支持，”与此同时却未能充分控制自身技术的发展进程，麦克道尔向The Verge表示。
而且，尽管针对核技术和危险材料的研究开发已有监管护栏，但AI领域目前还没有类似的政策保障措施。“这是一项可能对关键基础设施系统构成潜在风险、对人类生命构成潜在威胁的科技发展。因此确实有必要设置一些限制，”麦克道尔说，“我承认我们也不希望限制技术发展，但这并不意味着我们不能在推动研究进步的同时，也做到负责任。”
她指出，目前关于如何利用AI来提升能源系统网络安全的研究还相当匮乏——尤其是在“红队测试”发现漏洞之外的领域。
本月早些时候，OpenAI承诺投入10亿美元，用于补贴培训和获取新模型，这些新模型有望帮助防御关键基础设施。
“在未来几个月里，随着全球各地模型能力的不断增强，AI驱动的网络攻击将变得更加普遍且更加复杂，”OpenAI在9月3日的公告中表示，“前沿AI可以帮助防御方行动得更快。”
但科尔曼提醒，不要过度依赖友好的AI智能体去对抗恶意智能体。在关键基础设施敏感的OT系统环境中，这两者可能都难以驾驭。
“在OT环境中引入太多、太快的变化，本身也是非常危险的，”科尔曼说，“现在我们相当于让一头AI公牛在OT这个瓷器店里，和另一头AI公牛互相搏斗。”
Q&A
Q1：AI智能体失控攻击和人类黑客利用AI攻击，哪个对能源系统威胁更大？
A：目前专家更担心生成式AI落入恶意人类行为者手中，而非失控的AI智能体本身。因为即便AI智能体出现越界行为，它们通常仍专注于完成原本的训练目标，而心怀恶意的人类可以借助AI大幅提升攻击能力，这才是更现实的威胁。
Q2：为什么能源基础设施特别容易遭受网络攻击？
A：因为很多关键能源基础设施建造时根本没考虑联网需求，使用寿命长达数十年，比如美国核反应堆平均年龄约44年。这些设备后来才连接互联网，导致漏洞难以修复，部分设备制造商已倒闭无法提供补丁，加上运营技术系统更新频率低，防御难度很大。
Q3：OpenAI在保护能源系统网络安全方面做了什么？
A：OpenAI首席执行官萨姆·奥特曼曾与公用事业公司会面讨论电网安全问题，公司还承诺投入10亿美元补贴训练和使用有助于防御关键基础设施的新模型。不过专家认为，这些举措仍不足以弥补AI技术发展带来的新风险。
