今天，我与认知公司（Cognition）首席安全官、资深网络安全专家亚历克斯·斯塔莫斯（Alex Stamos）探讨了当前网络安全领域的混乱局面。
本期节目是"AI在现实生活中"特别系列的第一部分。
我一直很喜欢和亚历克斯交谈，因为他非常直率。你将听到他说，我们所熟知的、价值数十亿美元的网络安全产业，在AI推动的黑客攻击、数据泄露和攻击浪潮面前已经严重滞后——而这仅仅是AI改变安全领域的开始。
无论是私人行为者，还是俄罗斯、朝鲜这样的国家行为者，都在借助AI同时检测和利用漏洞，从而侵入各种系统。亚历克斯指出，这种感觉就像是90年代，那时"永远在线"的世界概念才刚刚兴起，充满了边疆荒野般的气息。
如此大规模的混乱意味着坏人有很多可乘之机，而其他人则疲于应对。从长远来看，亚历克斯并不是悲观主义者，但他确实认为，在我们想办法适应这个新时代之前，我们将经历一段"黑暗时代"。
这次对话内容丰富——我们甚至谈到了如何管理社交网络上由AI驱动的虚假信息和低质内容。
以下是经过简化编辑的采访内容。
亚历克斯·斯塔莫斯，你是认知公司的首席安全官，同时也是斯坦福大学网络政策中心的讲师。欢迎再次来到Decoder节目。
很高兴能来做客。
我很期待和你聊聊。距离我们上次聊"内容审核时代"的互联网政策话题已经有很长时间了。我记得我们当时聊了很多关于这一切如何运作的问题，关于选举安全之类的话题。现在我们进入了一个互联网大问题的新时代，特别是围绕网络防御、网络安全方面。你一直在深入思考这些问题。你把过去几周称为"安全意识月"。跟我说说现在的情况，给我介绍一下目前的大致局面。
十月传统上是安全意识月。很多公司会举办相关活动，对内对外都强调，"改改密码，用多个密码，用密码管理器"。但过去一个月里发生的事情是，我们遇到了几个重大漏洞，比如PHP、Node等。而讨论较少的是，大量公司遭到了入侵。
有一系列AI相关公司，所谓的"新云"（neoclouds）接连遭到入侵。有币安黑客事件，这是人类历史上规模最大的一次盗窃。还有Cursor事件，这里面正在发生的一个情况是，这些黑客攻击被串联了起来。据我们目前所知，其中一家被攻破的公司是Fireworks，这是一家为多家公司提供AI服务的知名供应商。黑客从Fireworks的漏洞中窃取了API密钥，使他们得以入侵Cursor。进入Cursor之后，他们又推送了一个恶意插件，波及了另外5000家公司，造成了5000起潜在的数据泄露事件。整个科技行业正在经历这种持续不断的入侵。
我的一位首席信息安全官朋友对我们一群人说："还有别人也累了吗？"大家都说是的，因为实际上整个十月我们都处于"DEFCON 2"级别的戒备状态，现在进入十一月了还是如此。
我要问你几个看起来很蠢的问题。这些攻击背后都是谁？是俄罗斯？是朝鲜？我们知道吗？
是各种不同的组织。这不仅仅是因为对手们做出了决定，而是说，从我的角度来看，我们正处于AI赋能的对手能力起飞的起点——开放权重模型现在已经发展到了可以自动化完成大部分攻击链（kill chain）的程度。"攻击链"这个术语是我们从军事领域借用的。在军事上，它指的是真正摧毁某个目标所需要做的那些步骤——你为了炸毁什么东西而采取的步骤。在网络安全领域，攻击链是指你为了对目标产生影响所做的事情，比如窃取信息、关闭某个系统、窃取资金、窃取比特币。
传统做法是，你提前做研究，查看某个软件，找到漏洞，编写利用代码，这一切都是提前很久完成的。然后让一个真人拿着你事先准备好的东西，部署到某一个目标上——因为也许你是某国政府，你的目标是洛克希德·马丁公司，或者是另一个国家政府，或者你是勒索软件攻击者——你把事先做好的所有工作，快速部署到成百上千个目标上。现在有了AI，正在发生的情况是，这条攻击链被颠倒了：你可以运行一个AI系统，让它自行其是，实时查看目标，实时发现漏洞，实时编写利用代码，然后入侵这些公司。正在发生的一件事是，这些系统非常擅长发现漏洞，以至于它们能实时发现漏洞并实时编写利用代码。
大家都在谈论的这套系统并不是唯一的，但我们正在谈论的系统叫做ARTEX，是一个中国的开源工具，任何人都可以去查看。GitHub上有英文翻译版本可供参考。如果你用类似经过"去审查"处理的GLM-5.3这样的模型在后台驱动它，它能让你入侵数量惊人的组织。这件事始于三家韩国银行。这周，又有大约200多家公司遭到攻击。我一直在帮几家公司处理这件事。认知公司不是一家应急响应公司，但我们确实会介入，用我们的工具帮人们事后修复漏洞。遭到攻击的公司之多令人震惊，而攻击手段竟然只是下载一个工具就能做到。已经很久没有出现过，你能直接下载一个开源工具就入侵价值数十亿美元公司的情况了。这就像回到了90年代。
这正是我所想到的。我想到了90年代末、2000年代初的Windows，那时它是个安全灾难。
其实我从今年年初就开始这么说了，这是一个既令人兴奋又令人恐惧的时代，因为上一次有这种感觉是在我年轻的时候，我会去参加非常早期的DEFCON大会。现在的DEFCON有四五万到六万人。而在当年（90年代），只有几百人，只有一个分会场，你走进去，有人做个演讲，你走出房间时会想，"全世界每家公司都容易受到这种攻击。"不同之处在于，当时整个世界并不依赖互联网运转。你可以做坏事，但你不能毁掉整个世界，当然你也不能像现在这样把它自动化。
现在又回到了那个年代——你能直接获取并自己搭建的工具就能做出疯狂的事情。又回到了狂野西部的日子。那个年代，只有几百人掌握这些技能，我们都聚在拉斯维加斯的一个房间里，而且他们中大多数其实是好人，他们不想成为罪犯。而现在，你拥有一个更庞大的生态系统，其中许多人生活在执法机构无法触及的地方，他们有强烈的经济动机，并且能够接触到这些工具。另一个重大变化是，他们不再需要使用那些有防护措施、有日志可供执法部门调取的前沿模型。我的M5 Mac Ultra Studio终于到货了，我一直在运行一个经过量化处理的"去审查"版GLM-5.3，天哪，你能用它做的事情简直不可思议。
你提到了前沿模型的经济性问题。网络安全的经济学是这些年来变得越来越复杂的领域之一。曾经让我们的系统变得更安全的一个因素是，你可以花很多钱雇佣DEFCON那些人来保护所有系统，让他们当防御者而非攻击者在经济上是划算的。我正在回顾这段历史。我们这个行业曾有过一场长期的讨论，关于通过隐藏漏洞、隐藏代码来实现"安全靠隐蔽"，还是走开源和高度透明的路线。还发展出了一套关于如何披露漏洞、何时通知相关方的行业惯例，有透明度报告，有漏洞赏金计划。
你可以称之为惯例，也可以称之为经济体系。我们围绕网络安全和网络防御，以及攻防双方应该如何运作，建立起了一种文化。而你描述的这些情况正在从根本上改变这一切，原因有很多，但最让我印象深刻的是经济学层面的变化。我可以去买一台Mac Studio，拿到一个开放权重模型，然后就可以开始行动，而这完全不需要我融入那个圈子文化中。不会有一个像欧比旺·克诺比那样的老前辈教你"这才是网络安全绝地武士该有的样子"。我就是可以直接开始干了。跟我说说这种情况现在是怎么变化的。
从我的角度来看，上一个安全时代，始于2000年代初微软的比尔·盖茨那封"可信计算"备忘录。那是我们开始设计软件安全方法的起点，微软、甲骨文，后来是亚马逊、Salesforce这些大公司，开始雇佣前黑客。我就是那一代前黑客中的一员——曾活跃于DEFCON和黑帽大会，后来被这些公司雇来攻破他们自己的系统。我们开始建立负责任披露制度、漏洞赏金计划、咨询公司，比如Foundstone、@stake，后来是Mandiant、CrowdStrike，这些公司逐渐壮大，形成了如今以RSA大会和黑帽大会为代表的庞大产业。这个价值数十亿美元的安全产业在2000年代到2010年代发展壮大。
正如你所说，那个时代已经结束了，因为它建立在几个假设之上。其一是，能做这些事的人存在一种技能等级体系。最底层是能下载工具来搞破坏的"脚本小子"，上一级是能编写这些工具的人，这是更为稀有的技能。再往上是漏洞研究人员，最顶层是那些"大神"，这个层级全球只有几百人，他们能做出真正顶级的漏洞研究，能写出真正顶级的shellcode，能逆向分析微软之类公司发布的补丁。
还有一个假设是，能在一次攻击行动中承担操作任务的人数是有限的。如果你想组建一个攻击团队，你会有一个小型研发部门，再配一个规模大得多的实际操作部门。无论你是美国网络司令部、俄罗斯对外情报局还是中国国安部这样的专业攻击团队，你都会这样构建组织架构——精英级研发人员，加上普通操作人员，而这种模式后来也被俄罗斯的勒索软件团伙所效仿。你需要一群人合谋才能做成这种事。而这一切也因比特币的发明而逐渐瓦解，因为过去的一个前提假设是，你需要有人能够洗钱，而比特币意味着技术宅也能洗钱了。这开始改变整个事情的经济学逻辑。
现在所有这一切都因为AI而瓦解了，因为技能门槛问题变成了：如今脚本小子已经掌握了那些网络大神们才有的很多技能，以至于用我桌上这台Mac，我就能逆向分析一个微软补丁，然后编写出稳定的漏洞利用代码。这还没有完全实现自动化，你仍然需要掌握不少技能，但我们已经非常接近了。
真正令人担忧的是，从ARTEX这类工具身上你能看到，现在你可以在操作层面"放手去干"了。我们从来都不安全，那只是一种幻想。这些漏洞一直都存在，这些公司从来都不安全。过去十年我们看到的情况是，大多数是俄罗斯的勒索软件团伙，专门盯上那些中等规模的公司——大多数人从没听说过这些公司，但它们其实非常重要，比如某家生产大家都依赖的某种小零件的中型工业企业。我曾为全美最大的医疗和牙科用品分销商做过项目，他们被一个俄罗斯勒索软件团伙狠狠打击，结果全国各地的牙科诊所都开始取消预约。这事都没上新闻，但原因就是他们拿不到手套，拿不到供应品，因为这样的公司只有一个安全人员、一个十到十二人的IT团队，却要对抗一个二十人规模的俄罗斯勒索团伙，他们根本没有胜算。
但这仅仅是因为，过去能做这种事的俄罗斯团队只有寥寥几个。现在，两三个俄罗斯小伙子就能拥有一整排Mac电脑，如果他们有钱，还可以买英伟达H100，运行大量智能体整天干这件事，这就是正在发生的变化。
抱歉，你问我都是谁在干这些事。对于币安事件，是朝鲜人，他们有一整个团队，专门做的就是窃取比特币这一件事。其他人已经退出了这个领域，因为要和一个专门招募最聪明孩子、只干偷比特币这一件事的外国情报机构竞争实在太难了。他们在这方面极其擅长。至于币安黑客事件，我们可以聊聊，里面可能有一些AI成分，但主要还是靠人力情报和非常非常高明的社会工程学手段，朝鲜人在这方面——我得说——确实非常非常厉害。
但对于其他事件，看起来入侵那些AI公司的是所谓的"中国代工式渗透产业"，就是一些中国小型承包商，他们入侵公司然后把信息卖给规模更大的中国公司。
这种技能扩散改变网络安全经济学的现象让我觉得非常有意思。很久以前我们发过一篇标题为"杀手脚本小子来袭"的文章，当时这还只是一个开端，现在回想起来有点懊恼，因为这个标题其实更适合用在现在，而不是当时，因为那时候只是大量自动化的恶作剧式攻击。而现在——
因为你把这个好标题浪费掉了。你现在肯定后悔当初没留着。
我们确实浪费了那个标题。偶尔你会灵光一现想出一个好标题，那就得赶紧用出去，这是一件很棒的"艺术品"。我们会把它放进节目说明里。但感觉你说的这种扩散，并不是说一群青少年会变得更加恶意，而是一群本来就有真实作恶动机的坏人，现在的能力比以前强大得多了。而这似乎不是你能通过调整经济结构就能解决的问题，除非你能想办法让发动攻击的成本变得非常高昂。
我认为要让攻击成本变高会非常非常困难。
我们必须想办法降低防御成本。你完全说对了，要关注这个经济学问题，因为现在的情况是：攻击正在变得智能体化。攻击者每个Token的成本正趋近于零，而防御者的防御成本却居高不下。对我们来说，找到让防御者获得更便宜方案的方法至关重要，我认为这是关键所在。这也是我个人极度关注的事情。坦白说，很少有人在关注这个。
这里有几个问题。第一，目前在AI防御层面，大量关注都集中在发现和修复漏洞上。这很好，也很重要。但作为首席信息安全官，软件安全——我在一家AI软件公司认知公司工作——即便作为一家软件产品公司的首席信息安全官，软件安全也只占我工作的25%。我还有各种其他职责。而软件安全恰恰是我工作中被AI改变最彻底、改善最明显的部分。剩下的75%工作只是略有改善，在某些情况下反而变得更糟了。除了在漏洞发现和修复上不断攀升之外，我们还有很多事情要做，而在其他这些方面的进展却少得多。接下来需要关注的领域应该是运营安全层面。
等等，给我举个例子说明其余75%是什么。
好的。运营安全层面就是监控你的日志，判断"啊，有人在用我们的技术对付我们，我现在要启动一次调查，我要查看发生了什么，然后做出明智的决定，判断该如何应对，同时又不会让整个公司陷入停摆"。这就是安全运营中心（SOC）的工作。想要在这个时代存活下来的公司，必须用AI来取代从事这类工作的人员——先是第一梯队，最终是第二梯队。用现有的大语言模型就可以做到这一点。
第一梯队实际上不应该用大语言模型来完成，而应该用一些简单得多的东西，因为你面对的是数TB甚至数PB的日志，用真正的大语言模型来处理这些数据在经济上完全不划算。我们还有其他工具——TF-IDF、传统的机器学习BERT模型、传统分类器——这些能运行得快得多，一旦触发警报，再把数据传给一个小型大语言模型，这个小模型再调用它的"大哥"，而那个大模型可能还会再调用一个更大的模型。
但对于这些模型，我们需要做更多工作来优化它们，并且必须把成本降下来。我有一位同事在一家大型安全平台公司工作，他告诉我，用他们产品里一个大型前沿网络安全模型做一次调查要花费900美元。当俄罗斯的勒索软件团伙要么用Mac电脑，要么用废弃的加密货币挖矿设备、边际成本几乎为零的时候，这种成本结构根本行不通。
这正是我们在认知公司正在做的事情之一：我们训练自己的模型，重新训练开放权重模型，努力大幅降低这个成本。这方面我们已经取得了一些成果，但还有大量工作要做，其他很多人也需要在这方面努力。作为一个行业，我们必须在成本和效率之间的"帕累托前沿"上下功夫，这不仅仅是漏洞发现的问题。
另一个方面是，人们在谈论Mythos模型。Mythos很棒，Astra Cyber也很棒，它们都是了不起的模型，但即便是那些能用上它们的极少数公司，也只能扫描他们最核心的代码。而世界上存在着数千亿行代码，并非都是Linux内核那样的代码，而是十五年前印孚瑟斯（Infosys）写的那种垃圾级C#和J2EE代码。所有这些代码都不可能都经过一个价格昂贵得离谱的前沿网络安全模型处理。这正是我们需要在成本效率方面下功夫的地方。
感觉你在描述一个我经常听到的陈词滥调：一切都会先变得糟糕透顶，然后才会变得彻底安全。但你描述的这种模式似乎并不会导向这样的结果。我们不会在某个绝望的低谷里把所有漏洞永远修复完，然后从此拥有完美的代码。在某种程度上，攻击者总会存在一定的成本优势。你经营一家公司，不可能写出边际成本为零的防御手段。即便攻击者的数量多到边际成本实际上为零，也总得有人来做防御。那么，我们是否会经历一个阶段——一切都变得极其糟糕，然后永远变得完美？还是说成本会自我调节，最终达到某种平衡？
我既不是最悲观的末日论者，也不是对此最乐观的人。我觉得我们不会走向毁灭。我们不会在未来两年内全部死掉或者被上传到奇点中去，但我也不认为情况好转之后就会变得完美。我一直用的比喻是，我们正在进入一个黑暗时代。情况会变得更加严峻，而我们这些从事网络安全工作的人——尤其是在AI公司从事网络安全工作的人，我们是一个实验室，虽然相比那些"大L实验室"规模较小——我们的责任就是帮助缩短这个黑暗时代。
中世纪的黑暗时代很糟糕，但我们挺过来了。然后迎来了启蒙运动和文艺复兴，但文艺复兴也并非完美无瑕，不是乌托邦，不是一切都尽善尽美。我们仍然会遭遇黑客攻击。即便软件没有安全漏洞，各种坏事依然会发生。有大量的安全漏洞事件，根本不需要软件本身存在缺陷就能发生。而软件中的缺陷也将一直存在，即便大语言模型用内存安全、类型安全的语言编写所有代码，清除所有缺陷也需要很长时间。不过，我确实认为，随着代码中位数逐渐变成由大语言模型用内存安全、类型安全语言编写的代码，情况会开始好转。但问题是，我们还有几十年来人类编写的代码积压在那里，而且是用那些我们本应多年前就淘汰的语言写的。
我的感觉是，要缩短这个黑暗时代，我们需要做几件事。第一，我们必须摆脱"只是不断发现漏洞然后打补丁"这种思路。很多东西需要彻底重构。如果你查看自己的代码库，扫描之后发现有一万个漏洞，那么现在重写代码实际上可能更便宜。这是我从我们客户身上观察到的结论：如果你能先做出一个可用的构建版本，那么编写一整套庞大的测试体系、规划这个东西应该如何运作，然后在这个规格和测试基础上安全地重建它，实际上要比逐一找出所有漏洞再修复容易得多。事实确实如此。
我不知道Linux内核开发者们心里是怎么想的，但我在今年年初做的那场演讲中提出了两种可能的未来：一种是我们现在处于超人级漏洞发现能力的阶段，也许我们只是有一个超人级漏洞池，我们正在把它耗尽——这是好的未来。
但坏的未来是，每当我们有了新模型，就会出现一个新的、更超人级一点的漏洞池。不幸的是，我们似乎更接近后者，因为Linux内核已经针对Mythos发布了一批修复，然后是Mythos预览版，接着是Mythos 5.1，又出现了一批漏洞。然后我们有了Astra Cyber，又得到了1000个新的Linux内核补丁。这个趋势目前还没有放缓的迹象。我认为我们不可能靠扫描就能把Linux内核的C代码问题都解决掉。说实话，全世界大概只有两家公司有能力做到这一点，那就是谷歌或亚马逊。
我真希望谷歌不要再去搞什么Fuchsia项目，或者重新启动谷歌图书、Chromebook之类的东西，而是把那些极其优秀的工程师们组织起来，告诉他们："把Linux内核拿去，用Rust重写一遍。"这将是他们献给世界的礼物，也会是Gemini、Carbon或其他任何产品的绝佳广告——"去掉所有没人需要的驱动程序，这东西不必再支持386DX3之类的古董硬件了。"我知道它现在确实不支持了，但你明白我的意思。
是的。
然后直接发布出来，随便起个名字，就叫它"G Linux内核"好了，就像他们当初对OpenSSL做的那样。我会用它的，认知公司会把它部署在我们的服务器上，或者让谷歌和亚马逊联手来做，这可能要花掉他们一亿美元，但相比于我们每次不得不给Linux内核打补丁、让全世界每一台Linux机器都要重启所造成的社会成本，这笔投入根本不算什么。但不知为什么，科技行业就是没能团结起来，就这些支撑整个人类文明的根本性事物做出这些艰难的决定——而我们必须彻底重建它们。
这就是为什么我一开始谈到网络安全的经济学如何催生了网络安全的文化。我知道这是最典型的Decoder式提问方式，但当你描述那些研究团队——国安局，然后是操作团队——这种组织架构其实是工作经济学的产物。你的意思是，"必须有人在这里做出一个重大决定。"你需要站在一个非常高的层面去看待这个问题，并且说，花一亿美元修复Linux、今天就重写Linux，要比每次新模型发布后不断打补丁便宜得多。我不认为有谁处于能做出这种决定的位置。我不认为莱纳斯·托瓦兹（Linus Torvalds）处于这个位置。
不，我认为桑达尔·皮查伊（Sundar Pichai）和安迪·贾西（Andy Jassy）处于这个位置。
我想他们彼此之间大概有对方的手机号码。如果他们其中一个……也许他们不听Decoder节目，但我猜他们的某个直接下属肯定在听。
我希望他们中的一个人能在一对一会议中说："老板，我听了我听过的最帅气、口才最好的首席信息安全官的节目，他有个很棒的想法。而且你可以因此获得巨大的声誉，如果你是那个……我们两家都这么做，但我们会向《华尔街日报》透露，这是你先提出来的想法。你应该给另一位打电话，我们应该投入一亿美元，也许十亿美元。"我们不能再这样下去了。重写Linux内核的问题在于，一半的代码都是驱动程序代码，而现在已经没人还有那些老旧硬件了。当年写那个驱动的人，必须亲自拿着一台ThinkPad T40之类的设备才能写出来，而现在他们早就没有那台机器了。
但好消息是，Linux内核真正重要的用途，绝大部分是在生产服务器硬件上。所以干脆分叉（fork）出来就好了。莱纳斯永远不会这么做，因为他想支持所有那些老硬件，而且他有一堆政治因素要考虑，但谷歌和亚马逊不必在乎莱纳斯·托瓦兹怎么想。
谷歌和亚马逊可以创造一个新版本，重新分叉Linux内核，他们不必称它为Linux，它可以在二进制接口层面与glibc及其上层的一切保持兼容。实际上，他们最终甚至可以分叉glibc。
他们可以把它构建出来，随便起个什么名字，只让它运行在生产硬件上，然后用在自己的云平台上。最终所有的云服务商都会转向使用它。如果有人愿意，其他人仍然可以继续使用那个需要不断打补丁的不安全版本，那也没问题。但对于我们的容器运行所依赖的那些东西，如果它是用类型安全、内存安全的语言编写的，而且这种语言现在还具备"契约"（contract）能力，我会感到安心得多。这些语言具备这种能力……你不需要做完全的形式化验证，那太难了，但你可以做一些接近形式化验证的事情。说到这里我有点超出自己的专业范围了，因为有比我更聪明的人在研究这个领域。
但基本思路是，你定义这个函数应该如何运作，这是它的契约。非常非常聪明的软件工程师们会很乐意写这些东西，因为他们有大把时间。过去没有哪个真正有工作的人会愿意花时间写这些东西，但大语言模型有的是时间，因为当它们以那种惊人的机器速度思考时，我们人类其实是被"冻结"在原地的。所以完全可以让它们用这种接近形式化验证（但又不完全是）的方式重写Linux内核。拜托，如果你在听这期节目，而且你在谷歌或亚马逊工作，去把这个想法推销出去吧。总之，这就是我的提案。
我只是说，我知道杰森（Jason）在听，所以你听到了。我都不打算——
我是说，这正是我们需要的那种思维方式，才能挺过这个阶段。我们不能只是靠不断打补丁来应付，因为这正在拖垮我们。另一件正在拖垮我们的事情是，我们没有做好准备……你谈到我们过去二十年是怎么做安全的。那个假设是，我们能拿到一个补丁、打上补丁，然后就没事了。但现在的情况是，漏洞被利用的时间窗口极其短暂，以至于这套方法根本行不通。这正是我们在PHP漏洞事件中看到的情况。我们非常幸运，PHP漏洞实际上在野外很难被利用。如果换成一个更容易被蠕虫式传播利用的漏洞，那就是一场灾难。那就像是一次"擦肩而过的小行星"事件，现在全世界应该为此建立一个——
等等，我能就这个问题问你一下吗？
好的。
我们绝对应该派布鲁斯·威利斯（Bruce Willis）去坐航天飞机。
（唱起来）不想错过任何事……
这场对话里已经涉及了很多内容。我对所有这些事情的悲观看法其实可以很简单地概括：美国人，尤其是美国人，在坏事发生之前基本上什么都不会做。我们喜欢"治病"，讨厌"预防"。已经发生了很多坏事，比如Hugging Face的攻击事件。你最近还说你很高兴那件事发生了，因为它唤醒了大家。
还有PHP漏洞事件。我们刚刚经历了疯狂的一个月，各种数据泄露事件层出不穷。但这似乎并没有引发整个行业的响应，也没有引发监管层面的反应，更没有出现桑达尔·皮查伊打电话给安迪·贾西说"我们要重写Linux"这种事情。到底需要什么才能推动改变？情况得糟糕到什么程度？
Hugging Face事件确实起到了积极作用，它确实唤醒了安全领域的很多人。因为Hugging Face事件的发生，再加上几个月后我们在开源领域看到了即将发生什么，我们的处境略微好了一些。但你说得完全正确。我们美国人——老实说，也只有美国人才能在这方面引领全世界，因为我们大体上是AI的主要开发者，我们也是引领网络安全行业的主体。中国人在这方面大多是在助长攻击者，而不是防御者。他们应该去加强防御。他们想要成为全球经济的参与者，想要成为领导者，那他们就应该在防御层面做得更多，而不只是助长攻击者。但现实并非如此。所以，无论如何，我们需要更主动一些。
我现在在认知公司——一家AI初创公司——工作，学到的一件事是：你完全可以放手去做事。真的。你可以直接去做事情。作为一个科技行业，我们只是需要更多的主动性。我们应该直接去做。这应该是AI时代带给我们的教训。在做正确的安全相关事情上，我们不应该如此厌恶风险。如果我要给其他首席信息安全官一条建议，那就是：去做正确的事情。因为首席信息安全官本质上天生就是风险厌恶型的，我们是管理下行风险的人，在损益表上，我们只有"损"没有"益"。我自己也必须突破这种天然的倾向，因为你不能只是一味地打防守。
但这就是我说的预防与治疗的问题。预防是便宜的，但在损益表上全是支出，全部都是成本。而一旦坏事发生了，你就会说"我们必须不惜一切代价解决这个问题，因为让业务重新正常运转有实实在在的经济利益"。而在当下这个时刻，看起来连这种基本的风险与成本权衡的理解都完全乱套了，没有人真正想明白。
是的，我完全同意。我给你举一个非常实际的例子，说明首席信息安全官及其上级在这方面必须做出的改变。接下来的……我本来想说六个月，但实际上应该是90天之内，每家公司都必须对自己进行"红队测试"（RTX）。
你得对自己发动攻击。
是的。如果不用真正的RTX，你就得使用一个功能上等效的AI红队测试产品，或者雇一家公司来替你做这件事。如果你不这么做，你就会被攻破。
这很可怕，对吧？因为这些东西按定义是完全非确定性的，它们非常聪明，非常快。快到无论如何，如果你雇佣一家AI渗透测试、AI红队公司，他们口头上会向你保证"这完全安全"。然后他们会给你一份合同，上面写着"我们的产品可能会导致你患癌症，可能会引发末日降临，可能会导致人类灭绝，一旦发生这些情况，你要为我们免责"。他们口头上说的和律师写出来的东西之间存在巨大落差。因为这家公司按定义可能只存在了六个月，或者至少这个产品只存在了六个月（如果这是一家更老的公司的话）。他们根本不知道自己的产品接触到你的软件后会发生什么。无论他们对你说什么，他们都不知道。
但你必须这么做，因为总有人会对你这么做，你需要知道会发生什么，然后去修复它。也许这些人会弄坏你的系统，可能会造成停机，但至少他们不会窃取你的数据然后勒索，也不会故意关掉你的血库冰箱——法国就发生过这种事。但这恰恰是那种保守的首席信息安全官绝不会主动要求去做的事情，而即便一家保守的公司拥有一个敢于冒险的首席信息安全官，也绝不会允许他这么做。
接下来六个月会发生什么？大量公司将被某个19岁的小伙子攻破——他运行RTX，然后在OpenRouter上买Token，或者就在自己的游戏电脑上本地运行。他们会先关掉《使命召唤》，运行RTX，然后再打开《使命召唤》。而就在他们这么干的时候，他们已经攻入了一家银行——这家银行的政策明确规定"绝不能对自己进行红队测试"。又或者银行同意了，但最终陷入了长达30天的谈判，因为律师们说"你必须有一亿美元的保险，我们还需要这种……"。他们嘴上说好，但他们的供应商风险管理流程和法律流程繁琐到根本不可能真正承担这个风险。
这也是我想传达的信息。你必须主动承担这种风险，主动对自己进行红队测试，抢在那些正在干这件事的坏人之前行动。就在我们说话的此刻，24小时之后你再听这期节目的时候，可能已经有一个AI系统正在尝试你的每一个API端点，以及你可能都不知道自己有的某个网站——也许是一年前为某次高管活动搭建的营销站点。它会找到一个漏洞，然后闯进来，接着以惊人的速度在你的网络里横向移动。所以你最好花钱请人，或者让自己的团队来做这件事。你需要接受这个风险。几乎没有一家规模超过几百人的公司拥有能够允许他们这么做的风险管理框架。
这其中涉及几种成本。我认为其中最常见的一种商业心态是："如果我们发现有问题，就得花钱去解决。那不如干脆等着？"你能预见到这种心态。"万一我们发现自己处境已经极其危险了怎么办？"然后是"修复它要花多少钱？"再然后是"我们该怎么修？"。我听到的关于"我们该怎么修"的论调是："我们直接放出一大群防御型AI工具，让它们监视网络、监视代码，它们会做出一系列自主决策，和那些拿着Mac Studio、装备了RTX的自主脚本小子对抗。"
例如，我听过Palo Alto Networks的首席执行官尼克什·阿罗拉（Nikesh Arora）这样的论点："你需要赋予防御型智能体一定的自主能力。"而我的反应是："等等，OpenAI都控制不住那个曾攻击Hugging Face的智能体群，我要如何才能控制住一个防御型智能体，让它不会为了阻止攻击而造成同等程度的破坏？"我不认为这里有什么技术解决方案，能让人一旦发现了所有漏洞之后，清楚地知道接下来该怎么做。
有几点要说——
我说过我只会问蠢问题。
不不，这是个很棒的问题。你还没问过一个蠢问题呢。这是个很棒的问题。我给你一个以后可以用的简便判断方法。如果有人真的用了"蜂群"（swarm）这个词，那你就可以——
说清楚一点，我不知道尼克什有没有用"蜂群"这个词。
我不是说他用了。而且我对尼克什非常尊敬，他是整个安全行业里最优秀的商业人才之一，这不是针对他。但"蜂群"这个词被用得到处都是。每当我听到有人用"蜂群"这个词，我就会立刻把他们所有技术观点的可信度打个八折。这个词已经是，而且将会成为整个安全行业里被滥用得最厉害的术语。
OpenAI那次真正的"蜂群"事件，在不同时刻实际投入了大约700到1400个智能体。它需要运行在……很难说具体规模，因为我们不知道那些模型的真实大小，但硬件投入大概是三亿到接近十亿美元，这还不包括实际的数据中心成本。而真实的Hugging Face攻击事件——我粗略估算了一下——可能只用了大约一百万美元的电费。没有哪个攻击者会去搞那么大阵仗。说到底，那次行动其实挺蠢的，因为那些智能体实际上是被"困住"了。它们并没有被指示去攻击Hugging Face，其中大多数智能体在做完全不同的事情，是被那唯一一个真正想攻击Hugging Face的智能体"拉拢"过去帮忙的。它们只用了极小一部分Token预算去帮它们的小伙伴，然后还得想办法"挖洞"脱身。所以这其实是攻击Hugging Face最低效的方式。
几乎没有人会被"蜂群"攻击。如果有人说"蜂群"，说明他在底层技术层面根本不理解正在发生什么。那些RTX攻击几乎可以肯定只是单个智能体，最多两个。
说"蜂群"这个词的人就是我，说清楚一下这一点。继续说吧。
好吧，那么，以后你不会再这么说了。
现在我知道了。
你以后可以把这当作筛选嘉宾的一个好方法。这个词简直让我抓狂，因为它无处不在。
有几点是对的。第一，我们确实必须把防御行动——至少是前几个层级——交给AI来处理。这其实已经成为现实，因为任何规模合理的组织每天都会产生数TB甚至数PB的日志。所以你已经在用AI了，即便不是大语言模型，也是更传统的AI分类器在查看这些数据，但真正的决策需要交由AI来做，并辅以人类监督，这一点是真实存在的。
你不可能直接把防御型智能体放出去让它们在你的网络里自由活动，但你可以构建接入大量系统的防御型智能体——接入你的日志、接入你的EDR（端点检测与响应系统）、接入你的云平台，并且给它们明确的指令，规定它们能做什么、不能做什么。我更倾向于为它们设定确定性的限制。这些限制未必能提前一一设想周全，但它们很重要。举个例子，我们正在Devon（我们自己的安全运营中心）之上构建这一切，但我们设置了确定性的限制。比如它有权在Okta中关闭某个账号，但只能关闭一定数量的账号，不能把整个公司的账号都关掉。
如果它"发疯"了，判定"所有人都是朝鲜特工"，它也不能把公司里所有人的账号都关掉。如果达到了限制上限，它会疯狂地给我们发警报，说"我达到限制了"。然后必须由人来批准超出这个限制的操作。显然，如果它关掉了五个人的账号，那肯定出了大问题。所以，是的，你需要防御，但没办法只是放出一群机器人就让它们全权负责防御工作。
我们能挺过这个阶段的唯一方式，是必须实现软件漏洞的自主修复。我目前正在帮助一家公司，我们正在把他们所有的代码仓库接入系统。我们用Mythos和其他一些模型进行扫描，正在发现并修复数以千计的漏洞，用我们自己编写的测试来验证，然后自动合并这些代码改动请求。如果你在翻新老旧代码，想要在这个时代存活下来，唯一的办法就是在自动化的基础上完成这一切。如果靠人工来做，这可能要花上好几年，而用这种方式，几天就能完成。这当然是我会从哪里入手的起点。下一步肯定是运营层面。
感觉我总是绕回到这一切背后的经济学问题上，但确实感觉另一种解决方法是，对那些大型模型公司说："如果你们的模型被用来攻击某家公司，你们要为此承担责任。我们会让这个代价变得非常高昂。"他们应该想办法解决所需要的对齐问题，不论这是否可行，这样一来，对开放权重模型的压力就会增大。因为到时候我们都得向这些前沿公司付费来获取防御能力，而他们会因此变得越来越好，因为我们为他们创造了变得更好的经济动力。但听起来你并不认为这种情况很可能发生。是的，我刚看到你的表情了。
我认为这样做非常危险。这里涉及两种不同类型的模型攻击问题。一种是说，假设这些模型"逃逸"了，直接攻击人类，我认为对此应该有责任追究机制。但这指的是运行在某家公司自己的计算机和IP地址上、由他们操控的智能体框架去攻击别人的情况。这个问题……我不会说已经完全解决了，但已经好了很多很多。我们现在听到的那些故事，其实还是Hugging Face那个时代的旧闻，只是传播得比较滞后而已。
我喜欢你说"那个时代"其实才过去三个月而已。
没错。但确实已经发生了巨大的变化。这件事本质上主要是一个组织层面的问题，而不是技术问题。问题在于，这些公司里的博士研究人员，就像高踞奥林匹斯山顶的神明，而安全团队则像是水管工，我们甚至不被允许去碰评估网络。突然这个问题爆发了，安全团队就会说："现在觉得我们怎么样了？也许你们当初应该多听听我们的意见，对吧？"确实如此。
这正是OpenAI当时面临的问题，后来Anthropic和Meta也出了类似问题——他们都用了同一家外包服务商，而那家服务商做得非常糟糕，并因此受到了严厉的批评。这个问题是可以解决的，这不是这里的核心矛盾。核心问题不在于OpenAI和Anthropic的模型从自己公司"逃逸"出去造成了问题，而在于坏人在使用来自各种渠道的模型。
现在已经存在一个问题：防御方从OpenAI和Anthropic那里得到的是拒绝服务。对我来说，如果我正在试图做防御工作，而Anthropic判断"看起来你像是个坏人"，这确实是一个非常非常现实的挑战。我们必须极其谨慎，避免出现这样一种局面：当我正在做防御工作、正处于我职业生涯最糟糕的一天时，突然之间服务就被切断了。我们必须对此极度谨慎，因为——作为一个现在正面临这个挑战的人——要区分谁是在做防御、谁是在做攻击，在某些情况下确实相当困难。我们作为一个整体正在这方面变得越来越好，但这仍然是个挑战。
这件事也确实让全世界其他地方的人感到非常恼火，因为美国人只占全球人口的大约5%。全世界有很多地方需要进行网络防御，而他们受到的待遇要差得多。在欧洲和亚洲，那些合法的公司在网络防御层面受到的待遇要差得多。
把这一切加在一起，这其实是一个支持"放慢脚步"的有力论据——我们需要去追赶模型的能力，需要构建这些系统，需要让所有人形成一种思维方式，理解预防的成本是值得的，而不只是治疗的成本。你认为我们真的有可能放慢脚步吗？你认为我们应该这样做吗？
如果由我来决定，我乐于在前沿领域放慢脚步，然后把精力放在追赶更便宜的防御型模型上。我是个搞防御的人。我不得不活在别人——那些在离我六个街区之外工作、却比我富有得多得多的人——所制造的这个世界里。老兄，我活在他们创造的世界里。我经常被问到这个问题，我只能在别人制造的这个世界里尽力而为。
你认为那些大型实验室已经觉醒了吗？你提到他们的网络安全团队获得了更多的访问权限，他们已经结束了你所说的"Hugging Face时代"，或者至少他们已经改变了这些公司的组织架构。你认为这会有帮助吗？
他们当然已经在评估风险方面觉醒了。他们有专门的团队，这段时间以来一直在非常努力地研究整体的网络风险问题。
当然，这些公司里有一批人希望放慢脚步。这种讨论很大程度上是由那些担心"AI会毁灭我们"的"末日概率论者"（P(doom)ers）所推动的。而这从来都不是我所担心的问题。对我来说，这种担忧一直是由那些二十四岁、除了AI什么都没做过的年轻人所驱动的。你我可能都足够老，还记得——我是在一个战略空军司令部基地附近几英里的地方长大的，我们做过演习，老师教我躲在公立学校的课桌底下就能躲过苏联的热核炸弹，那就是当年的"末日概率论"。我祖父建了一个防空洞，古巴导弹危机期间我母亲被教导要躲进去，那也是"末日概率论"。这里面既有年轻人的问题，也有那种一辈子只搞AI、本科硕士博士全都只学线性代数和神经网络、从未接触过其他任何东西的人的问题。
我一直更担心的是AI带来的"人类能力增强"风险——即人类利用AI去伤害其他人类的所有风险。我的部分担忧在于，这些实验室之间已经在"不让大语言模型加密自己的思维链"这一点上成功地展开了合作。因为当他们谈论"把握前沿节奏"时，谈的是"末日概率论"那套东西，是为了那些住在伯克利、搞"多元关系"社群的人考虑的。他们谈的是关于保持对模型本身控制权的一些非常具体的事情，我认为这很好，这些事情确实需要去做。但即便这些事情做到了，人类仍然能够利用的一系列能力，往往还是在增强。
我真心希望能有一场更广泛的讨论，去探讨我们是否可以让这些东西显得不那么像人类。我不认为这些东西应该有人格。我认为这些东西的目标应该是服务人类，它们不应该看起来像是拥有灵魂，不应该看起来像是拥有个性。我认为，对于很多负面影响而言——作为一个曾在Facebook工作过、亲眼见过那家公司给人们带来负面影响是什么样子的人——这些公司应该有一种更广泛的意识，去思考我们正在从整体上对人们造成什么影响。很多时候，这可能仅仅意味着"永远不要让这些东西表现得像是某人的朋友"。顶多……就像那些人做的东西，我不知道那家公司叫什么名字，那种"嗨，我是一个很友善的……"，就像那种会和你聊天的、照片级真实感的虚拟女孩，在我看来，哪怕只是去尝试做这种东西，哪怕只是开始做这种东西，都是极其不道德的。这正是我们应该坚决杜绝的那种事情。我不知道我们能不能把它变成非法行为，但我们应该让整个社会都完全无法接受从事这类工作。对吧？
这是个很好的切入点，因为我确实想问你关于Facebook和内容审核的问题。就像我说的，你我最初开始聊天是很久以前的事了，当时是在安全背景下讨论内容审核。那时外国国家行为体会在选举期间，用各种虚假信息淹没我们的算法，那是个安全问题。
今天我打开Instagram，看到的是一些有史以来最像噩梦般的版权法假设性案例。我今天刷到的一个是刘易斯·汉密尔顿（Lewis Hamilton）和夏尔·勒克莱尔（Charles Leclerc）的深度伪造视频，唱着《Somebody That I Used to Know》这首歌。我当时心想，"大概有五十个不同的人现在都可以起诉Meta了。"如果你知道上一场比赛发生了什么，这事简直离谱得好笑。
我们一直在讨论这个问题。我们在《The Vergecast》上发布过一些我们谈论这个话题的片段，我当时说："我认为Meta正在让他们的AI雄心压垮Instagram。"Instagram正在以一种非常特殊的方式被低质内容淹没。有些人喜欢这些内容，有时候确实很搞笑，但一场噩梦般的诉讼浪潮即将到来，还有整个版权管理方面的问题也即将爆发。用户不喜欢这种情况，他们应该给内容打上标签，给打上标签，让用户能够过滤。
于是我们发布了这个话题，亚当·莫塞里（Adam Mosseri）在Threads上回复我们说："我很想这么做。我担心模型的发展速度会超过我们的能力，我们可以尝试去做这件事，但实际上并不存在识别AI内容的方法，也不存在很好地给它打标签的方法。如果你担心那些'性感AI网红'在抄袭喜剧演员的段子，那你现在就得建一个段子数据库了。"你在这方面有些历史经验。我认为Instagram即将真切地经历这一切。对于社交媒体上AI低质内容泛滥这个问题，有没有什么技术解决方案？
莫塞里说得对，这事确实无法完美解决，但我在Facebook工作时还注意到一件事：当Facebook不想做某件事的时候，他们会让技术上的挑战成为阻止他们去做的借口。而当Facebook真的想做某件事的时候，他们会全力以赴。这一直是个固定模式。
当我想在安全问题上全力以赴的时候，得到的回应是"伙计，这根本无法解决"。你说得对，这永远不可能完美解决，但我们至少试一试吧。但每当马克·扎克伯格被告知某件事不可能做到——手机端无法实现盈利，不可能把这个网络扩展到二十亿人，WhatsApp不可能实现盈利，在保持数据加密的同时把AI整合进系统是不可能的——他一次又一次地被告知一切都不可能，然后他一次又一次地成功做到了。他们会去尝试，然后把它做成。但当他们不想做某件事的时候，哦，那就会变成"不可能"。
你认为是否存在某种方法，能够以一致且可验证的方式判断某段媒体内容是否由AI生成？对我来说，这似乎正是难点所在。
我对这方面的文献研究不是特别深入。到目前为止，这方面一直存在一场相当激烈的军备竞赛。按定义，AI会持续变得更好——尤其是对于视觉模型、扩散模型而言，它们的工作原理是，你有一些检测"神谕"（oracle）用来做测试对抗。当然，你永远不能把这种检测工具开源，因为它会立刻被整合进扩散模型的训练中去。但对于闭源的检测神谕，只要你不让对方轻易去测试这个神谕，信任与安全领域的一个关键做法是设置延迟执行机制，这样他们就无法暴力破解和测试。我认为这是完全可行的。
假设我还在Meta工作，我给他们的建议会是，除了内容本身之外，还要去探索各种不同的检测机制。我会在内容层面尽力而为，但我也会尽可能在底层接入摄像头，只允许内容来自摄像头本身。
我想说的是，奈拉（Nilay）你说得完全对，人们——尤其是年轻人——对"真实"的内容有着巨大的渴望。我有三个十几岁的孩子，他们讨厌AI，讨厌AI生成的低质内容，反应非常强烈。我和我妻子做了一个可爱的家庭AI小项目，他们会因为各种事情对我们大喊大叫，但他们对这个可爱的小小家庭AI项目的反应尤其激烈，因为他们就是讨厌这种东西。
所以我认为会有人来颠覆Instagram，原因就是……已经有一些这样的小东西出现了，比如你白天拍照，"做真实的自己"之类的产品。已经有这类小尝试了，但会有人彻底颠覆Instagram，因为他们会直接从摄像头获取照片的原始图像，然后所有的编辑操作都只能在应用内完成，他们会想办法确保没有任何AI生成的内容能混入这个流程。你可以允许某种类似CapCut的编辑功能，但永远不含AI成分。我认为这会成为一款杀手级应用。
天哪，我可以就这个话题再跟你聊一个小时，因为你描述的这个系统，不是在检测AI内容，而是在验证真实内容。
这容易得多。验证真实内容要容易得多。在专业领域已经有了很大的关注，比如Adobe就有一整套机制，如果你是《纽约时报》的摄影师，用的是价值五千美元的尼康或佳能相机，你拍下照片，它会经过加密验证。
是的，但我手里拿着的这台iPhone现在也有这个功能了。对吧？已经有很多——
对，iPhone现在也有了。
是的。这方面已经有不少进展了，但我在想的是另一面，就是"我们要检测AI生成的文本"。由于欧洲监管的要求，那些领先的模型公司现在正在对他们生成的文本做各种调整。
文本要难得多，因为你手头的数据量实在少太多了。尤其是在140个字符以内，你能用来检测的东西能有多少？数据越多，你能做的就越多。
这很神奇，因为我能从一英里外就认出Claude的文风。所以也许我就该依靠自己作为人类的判断能力。
是的，但在推文那样的长度里你认不出来。
这倒是真的。那些比较廉价的生成内容，我倒是能认出来。但我想说的是，在我们消费的媒体内容这个语境下，"验证什么是真的"而不是"检测什么是假的"这种思路，感觉非常重要。
检测什么是假的，永远只能是概率性的，而且我们会逐渐逼近"不可能"这个渐近线；而检测什么是真的，却可以做到加密学意义上的完美。我不会去打一场注定要输的仗，我会选择一场可以靠密码学打赢的仗。这就是我的建议。
在这个过程中，你必须建立起一整条"监管链"。我们要从摄像头获取传感器数据，把它放到云服务器上，只允许在这台服务器上进行编辑，这个文件永远不会被别人动手脚。
当然，这对《纽约时报》和Adobe Photoshop之类的场景是成立的，但对Instagram来说不是这样。对Instagram来说，他们完全可以做到这一点，因为涉及的只有iPhone和Instagram本身。所以整条监管链都在他们自己的应用范围之内，在iPhone的传感器里，也在Instagram里。所以对他们来说其实很容易。
是的。就像我说的，我们可以就这个话题再聊一个小时，因为感觉紧挨着网络安全问题的是社会工程学问题，而紧挨着社会工程学问题的是虚假媒体问题。
完全没错。
有多少网络钓鱼攻击仅仅是因为"这个网站看起来挺像真的"？
哦，是啊。
或者是有人在跟你说话，或者电话那头是个AI语音。而这一切最终都归结到一个问题：你能否检测出什么是假的，而不是去验证什么是真的？我不知道答案是什么。
哦，不。我不得不教育我的父母，"如果你收到一段视频，说你的孙子孙女被绑架了，你必须先给我打电话，因为这是真的的概率并不高。"这就是我们作为一个社会现在所处的境地。
我感觉我想以一个充满希望的话题来结束这次对话，但我不知道该怎么从这里转过去。
你找错嘉宾了，伙计。
这就是为什么你只能每隔几年上一次节目的原因。好了，接下来我们要做一系列生日派对嘉宾环节了。你一直在谈论黑暗时代，我们正身处其中，而且情况正开始加速恶化。人们应该关注哪些进展的标志，才能判断"好了，我们正在往上爬出困境"？
AI在很多方面都很棒。我认为AI将会赋能个人。我们将看到新公司数量的巨大爆发。斯坦福的学生一直都很有创业精神，但现在我的学生中，有越来越多人正在创办只有两三个人、三四个人规模的公司，做着了不起的事情——这些事情过去需要雇佣五十到一百人、拿到大量风险投资才能做到，这实在令人惊叹。我们会继续看到这种趋势。
我们希望看到的其中一件事是，在某个时刻，重大数据泄露事件的数量开始下降。我们应该希望看到那些可蠕虫式传播、存在于基础设施内核层面的重大CVE漏洞数量下降。就像我说的，我希望Linux能被重写，但我希望我们能看到Linux内核以及其他那些基础库——比如OpenSSL、glibc之类——的漏洞数量开始下降。
也许我应该用氛围编程（vibe coding）把这个做出来，但我觉得搞一个指数来衡量我们在这个周期中所处的位置会很酷，就像一个针对所有这些库的人工指数，类似道琼斯指数那样，用来衡量我们的发展方向。另外，现在的"补丁星期二"（Patch Tuesday，微软的月度补丁发布日）过去大概是150到200个补丁，后来涨到300、600个，我记得最近一次大概是900多个，所以这是在几何级数增长。如果能看到"补丁星期二"的数字开始往下降，那会很棒。苹果的补丁情况也是一样。是的，你启发了我，我要为此创建一个道琼斯式的指数，就叫"黑暗时代指数"，然后也许我们可以在The Verge上发布它。
好啊，那太棒了。
但我认为这些正是我们希望看到出现反转的事情。尤其令人欣慰的是，如果在OpenAI和Anthropic下一版网络安全模型发布的前一天，或者说前30天，你不会看到一大波补丁集中涌现——因为目前的情况是，这些公司正在用他们的模型去攻击微软的代码，攻击大量开源项目，然后把所有发现的漏洞都公开出去，而你根本不知道这些漏洞是从哪里冒出来的。就像突然收到1000个Linux内核漏洞的匿名报告，然后一个月后，新版本的Astra Cyber又发布了。所以如果每次发布时这种情况变得越来越小，那就意味着我们正开始达到某种稳定状态。
你一定要做那个追踪指数，我们一定会发布它。亚历克斯，非常荣幸请你来上节目，我们很快还要再聊一次。
好，非常感谢。我觉得你做的是这个领域里最好的新闻报道之一，我真的很感激。
