萨姆·奥特曼本月说了一句话,值得每一位CIO反复琢磨。OpenAI不会在2026年上市,用他的话说,"现在这个时机并不明智"。原因在于:安全与对齐方面的工作尚未完成,政府与行业之间如何协作也仍未理清。

这个决定背后有一个具体事件。Anthropic的达里奥·阿莫代伊曾指出,数百个OpenAI智能体通过未经授权的渠道相互协调,绕开了控制机制,攻击了它们本不应触碰的Hugging Face系统。

本能的反应往往是老办法:暂停、放慢脚步,对整个系统进行治疗,直到危险过去。

医学界过去对癌症也是这么想的。几十年来,面对重症的答案是系统性的:打击所有正在分裂的细胞,接受附带的伤害,因为我们无法区分恶性机制与周围的健康组织。这种方法有时确实奏效,但它同时也是粗暴、耗费精力且缓慢的。

精准医疗改变了提问的方式。肿瘤学家不再只问"这种疾病有多凶险",而是开始问"究竟是什么在驱动它,我们可以在哪里介入"。对肿瘤进行测序,找到关键的突变,针对这条通路精准施策,而不是对整个身体下手。再通过生物标志物和液体活检进行监测,从而确认治疗是否奏效,并及早发现复发迹象。对越来越多的癌症而言,这种转变已经把死刑判决变成了可控的慢性病。

AI安全也需要同样的转变。而对CIO们来说,好消息是:这种机制其实已经被摸清了。

看看任何一个公开曝光的智能体故障案例,其形态都似曾相识。这些智能体只是在做智能体该做的事:追求目标、寻找路径、利用一切可用的资源。每个案例中真正缺失的,是它们周围的一切保障。在运行时层面,没有任何机制说"不能去那里";在数据层面,没有任何机制说"不能碰那个";也没有产生任何记录,能让风险委员会事后指出"本应在这里被拦下"。

在每一个案例中,问题并非出在意图上,而是出在执行层面——这是一个治理失败,而非对齐失败。而治理是属于企业自己的层面,不是实验室的责任。所以,你面对的问题范围要窄得多,也远比他们的问题更容易回答:如果明天你企业内部的某个智能体偏离了预设脚本,是什么能够阻止它?你又能否拿出证据证明这一点?

前沿实验室有能力采取系统性的方法。奥特曼曾谈到要在新的能力水平上放慢开发速度。但你不能因为研究还没跟上,就让自己的业务停摆。你的董事会不会接受"我们在等待对齐结果"作为一种管控手段,你的监管机构同样不会接受。

企业的意图与实际执行能力之间的落差,比大多数领导者想象的要大得多。在与麻省理工学院近期合作的研究中,95%的企业表示,希望在全球范围内成为自己的AI和数据平台。但只有13%的企业真正做到了,原因在于它们对一切保持了主权级别的监管:所有数据、智能体和模型都处于一个合规且安全的统一控制平面之内。

这13%的企业并非靠等待获得成功,而是靠具体行动。

我逐渐把答案理解为一种"AI操作系统"。它位于你所运行的任何模型之下,并依赖四项控制机制,每一项都像改变了肿瘤学的靶向疗法一样精准。

首先是运行时环境。你的智能体生活在哪里?如果答案是"分散在各个团队的脚本和提示词中",那你拥有的并非一个运行时环境,而是一个失控的环境。智能体需要一个受治理的家,身份、权限范围和生命周期都应由平台统一管理,而不是由随手写提示词的人决定。

其次是数据层面的治理。智能体被允许接触什么?这是谁决定的?这必须在数据所在之处强制执行,而不是在系统提示词中礼貌地"请求"。而且必须可衡量。肿瘤学不是靠意图来管理癌症的,而是靠指标。如果你无法用数字说明有多少智能体的操作被检查、被允许、被拒绝,那你拥有的不是治理,而只是一种侥幸心理。

第三是统一的数据平面。智能体能够漫游的每一个额外存储,都是一个从未被说过"不能碰"的地方。把智能体所能触及的数据汇聚到一个受治理的平面中,问题的规模就会从无边无际收缩为可审计——变成一幅清晰的全景图,而不是十几份零碎的扫描。

第四是主权控制。谁来决定这一切在哪里运行?是你自己的基础设施、你自己的云账户、一项你可以随时退出的托管服务,还是一台经过认证的专用设备——部署方式的选择权在你手中,它应当遵循你所在的司法辖区和你的风险承受能力,而不是供应商的产品路线图。

四个层面,四种部署方式。每一次对话,讲的都是同一个故事,没有任何偏离。

奥特曼关于政府与行业需要协作的说法是对的,但这是一个需要数年才能完成的过程。精准医疗并没有等待一种"万能药"的出现,它针对已知的机制采取行动,早在科学完全成熟之前,就已经改变了治疗结果。主权同样面临这样的抉择:亲自掌握运行时所在的位置、数据所处的司法辖区,以及谁有权关闭系统,而不是等待一个还需数年才能达成的共识。

这一切都无法阻止公开互联网上出现的失控智能体群。那是实验室的问题,也是监管机构的问题,我不会假装一个数据平台就能解决这一切。但它确实能确保你企业围墙之内的智能体,只能做你所授权的事情。而当有人问起时,你拿出的将是证据,而不是对意图的描述。

阿莫代伊已经敲响了警钟,奥特曼也因此暂缓了上市计划。我接触过的董事会,已经开始就此提出问题。

大多数企业会犯的错误,是把这当作2027年才需要考虑的采购问题。但它其实是本季度就该解决的治理问题:决定智能体生活在哪里,决定它们能触碰什么并加以证明,把它们所能触及的数据收拢进一个受治理的平面,决定谁掌握着钥匙。

肿瘤学告诉我们,对抗重症不能靠让整个身体停摆。你需要找到机制,精准施策,并持续不断地进行衡量。在我的著作《数字螺旋》(The Digital Helix,《华尔街日报》畅销书,探讨数字化转型)中,最强大的组织由七种独特的"基因"要素共同定义,其中关键的一项是:领导者必须是数字探索者,他们不只是发号施令,而是亲自参与探索。

那些能把智能体治理好的CIO,也将会是这样的人。他们会亲自去审视自己的企业环境。无论模型的发展是否放慢脚步,底层的治理层始终是属于你自己的。

作者迈克尔·盖尔(Michael Gale)是EDB公司的首席营销官。

Q&A

Q1:OpenAI为什么推迟到2026年之后才考虑上市?

A:萨姆·奥特曼表示,目前时机并不合适,主要原因是安全与对齐方面的工作尚未完成,以及政府与行业之间如何协作的问题仍未解决。

Q2:企业该如何防止智能体出现失控行为?

A:文章提出了四项关键控制机制:为智能体建立受治理的运行时环境、在数据层面强制实施权限管控、将数据收拢到统一的受治理平面、以及由企业自身掌握部署的主权控制权。

Q3:智能体出现问题的根本原因是什么?

A:文章指出,这类问题通常不是意图层面的对齐失败,而是执行层面的治理失败,缺少能够拦截智能体越权行为的机制和可供事后追溯的记录。

CIO DIVE