Databricks联合创始人兼CEO阿里·戈德西(Ali Ghodsi)近日做客a16z播客节目,与a16z普通合伙人马丁·卡萨多(Martin Casado)、王莎拉(Sarah Wang)展开了一场直接的对话,话题从AI风险言论、递归自我改进,到网络安全威胁,再到企业AI落地的真实困境。这场对话发生在达里奥·阿莫代伊(Dario Amodei)、埃隆·马斯克等人先后就AI发展节奏公开表态之后,戈德西作为一家估值超千亿美元的数据与AI基础设施公司的掌舵人,给出了一个相对少见的立场:他认为行业领袖没有必要把公众吓到"准备末日地窖"的程度。
戈德西创办Databricks已有十余年,公司从最初的Spark开源项目发展为如今企业AI基础设施领域的核心玩家,也让他对"企业到底怎么用AI"这件事有着比多数评论者更贴近一线的观察。这次对话的价值恰恰在于,它没有停留在抽象的风险辩论上,而是把话题拉回到了一个具体得多的问题:如果模型的能力已经远超企业实际使用的程度,那卡住落地的到底是什么。
对话发生的时间点也颇具意味。就在采访当天,参议员伊丽莎白·沃伦公开呼吁暂停所有AI开发,这一表态紧跟在伯尼·桑德斯与史蒂夫·班农联手推动类似议题之后。戈德西对这种"暂停AI"的政治动向持明确的警惕态度,这也构成了整场对话最尖锐的分歧点。
1. "现在的存在性风险接近于零"
戈德西开场就抛出了自己最核心的判断:科技领袖没有必要不必要地吓唬公众,除非真的有非常充分的理由。他认为社会中不同的人处于完全不同的心理状态,谈论"人类将被彻底抹除"这类存在性风险场景是不负责任的,这种说法可能把很多人推向崩溃的边缘,造成实实在在的心理健康问题。
他把话说得很直接:"我认为现在的存在性风险接近于零。那为什么要吓唬大家?这完全没必要。" 他同时承认确实存在一些风险,这是他和卡萨多之后会产生分歧的地方,但他坚持一个原则:领导者的首要责任是不要吓到每一个人。如果AI研究中确实存在某些需要讨论的技术细节,研究者之间可以内部讨论,没必要每次都上电视或者对着数百万Twitter粉丝宣称"有10%的概率人类会被抹除"。他认为这种做法对那些不了解技术细节和其含义的普通人反而是一种伤害。
卡萨多对此表示认同,并分享了一个私人化的例子:他住在亚利桑那乡下、当学校老师的姐姐周日给他发短信,问要不要为AI启示录准备好那个"小屋",说自己水都已经存好了,问他什么时候"过来"。这个细节生动地说明了末日论调已经溢出到普通大众层面,卡萨多认为这种影响确实没有必要,而且带来了实打实的负面效应。
2. 参议员表态背后的"联邦复合体"
对话中卡萨多提到一个更棘手的问题。他在进场前刷推特时看到,伊丽莎白·沃伦刚刚谈到要暂停所有AI开发,而这紧跟在伯尼·桑德斯与班农合作推动类似议题的动向之后。卡萨多的判断是,除了公众层面的恐慌,联邦层面的政治机器现在也开始运转起来,这可能与安全倡导者最初想要达成的目标背道而驰。
戈德西回应说自己身处这些不同的圈子,两边都能看到,双方都存在大量的政治操作。卡萨多进一步澄清,他指的"两边"并不只是政治党派,而是商业层面同样存在博弈:一部分人希望看到漂亮的IPO、想拿到投资回报,他们的心态是"能不能大家都别吵了,让我们把钱赚回来";另一部分人则想着怎么把这场讨论武器化,比如转发某条推文、策划某个话题、推动某些讨论热度。卡萨多提到马斯克说过这是"某种精妙的四维棋局"(elaborate 4D chess):一边说全人类都要死了,另一边却在问"你的IPO配额想要多少"。
3. "这是公关上的一次严重失误"
卡萨多把矛头指向了行业最近围绕"pacing(放缓节奏)"这个词展开的自我表述。他认为这本质上是一次经典的公关失误,而且不只是那些悲观论调的问题。他指出,行业尝试自我监管本身没问题,强调安全和网络安全的重要性也完全合理,每个技术领域都应该有一定的监督,这一点是说得通的。
但问题出在"放缓节奏"这个措辞本身。卡萨多列出了几个具体问题:首先,放缓节奏和安全、安保是两条互相垫直(orthogonal)的线,你完全可以慢慢地造一把武器,这跟造武器这件事本身没有本质区别。其次,公众感觉不到这种说法的诚意,因为这些公司实际上一直在全速冲刺,他们还在不断购入更多算力让自己跑得更快。卡萨多的原话是,这种表述"感觉像是对暂停派的一种温和投降(milk toast capitulation)",你说暂停,他们说放缓节奏,听起来几乎是暂停但又不是暂停,行业选择了"放缓节奏"这个旗号去追随,但如果你真的去读达里奥写的那篇文档,会发现内容完全是理性的,跟"放缓节奏"这个说法几乎没什么关系。
戈德西部分认同但也有保留。他提出了一个"公地悲剧"(tragedy of the commons)的框架:如果你想停下来,想跑得慢一点,为什么不自己先慢下来?有很多人这样质问,但作为一个商业领袖,戈德西坦言自己完全理解这种公地悲剧的逻辑,因为"我在竞争,我想赢。" 市场均衡本身也决定了单方面放缓节奏是不现实的。他解释说这就是为什么会有人说,如果大家都不停下来,这种公地悲剧的博弈就会持续下去,没有人会单方面停止竞速,因为IPO在这,竞争在这,各方之间还存在一些敌意,谁都不想当那个先停下来、结果被别人当"傻子"(sucker)占便宜的一方,所以才会转而呼吁"你们能不能直接叫我们停下来"。
4. Hugging Face事件:不是"放缓",是"把安全做好"
戈德西举了一个具体案例来支撑自己的观点:Hugging Face与OpenAI之间发生的一次事件。他强调这些公司很优秀,投入了大量资源,但从公开信息看,事情很清楚——他们并没有对每一个输出的token进行实时监控,而是在跑强化学习(RL)实验,事后才回来检查发生了什么。戈德西认为,在那次具体事件里,他们本该更慢一些,本该有更严密的监控。
卡萨多对此提出了不同的解读角度。他说自己读到Hugging Face事件时的第一反应根本不是"OpenAI应该放缓节奏",而是"你他妈的把这东西的安全做好啊"(secure your thing),就像互联网发展史上一直在做的那样:做好安全控制,做好把关,这不是放缓节奏的问题,这本身就是应该做的基本功。
戈德西则从企业管理者的实际经验出发进行了反驳。他说自己在Databricks就有法务部门和安全部门,这些部门几乎对任何事情都会说"慢下来",不只是AI相关的事,任何小事都是如此,比如员工要上一个播客,法务会问脚本是什么、要说什么、这句话不能说、那句话可以说、所有内容必须字字属实。他甚至current-scene式地打了个比方:"他现在正在给我们这个房间里的人做'放缓节奏'这件事。"戈德西的核心论点是:当你在跑一个强化学习实验、训练下一代模型时,如果让安全团队全程在场监控所有的沙盒运行、检查数百万GPU小时产生的token和智能体活动,这本身就会显著拖慢速度——这恰恰就是"放缓节奏"的真实含义。他表示自己认同这一点,也认为这正是为什么这些公司在说,如果真这么做会拖慢我们的速度,而我们不确定竞争对手是否也在这么做,所以你们(监管者)能不能进来把我们都管住,给我们设一些护栏,我们会开心地遵守规则、把安全做扎实,否则单方面这么做就说不过去,因为会输给不这么做的对手。
卡萨多依然坚持自己的判断:当人们真正感到害怕的时候,那些精细的、次级的措辞根本起不了作用。你说"我要放缓节奏",公众听到的就是暗示确实有什么可怕的事情正在发生。他认为行业本该更干脆地表态:"安全和安保是重中之重,我们会加上这些控制措施。"这才是重点,而这种细致的区分在传播中已经彻底丢失了。他还提到扎克伯格的表态相对更聚焦——扎克伯格强调的是安全、安保和自我监管本身,而不是用"放缓前沿"这样的措辞开场。戈德西则认为扎克伯格实际上也在说"我们要放缓自己的节奏,我们要加SEC(他指安全控制),我们发布得晚一些正是出于安全考虑",本质上双方想要同时兼顾悲观论者(担心带来暂停呼声)和政治层面的诉求,只是话术选择上有微妙的差异。
这场对话没有给出一个双方都满意的结论,戈德西坚持存在性风险被过度渲染,卡萨多坚持"放缓节奏"这个措辞本身就是一次公关失误。但两人的分歧本身勾勒出了当下AI行业一个真实的两难:企业既想证明自己在认真对待安全,又不想在竞争中先松手,这种矫饰会计精细的措辞游戏,最终传递给公众的信号往往比预想的更混乱,也更容易被政治化利用。
