OpenAI在过去几年里,已经在数学这片日益艰险的领域插满了自己的旗帜。本周,它宣布拿下了迄今最大的一项荣誉:解决了一个传奇性的千年大奖难题。在正常情况下,这本该被视为一项历史性成就而受到庆祝。
然而,许多数学家却带着日益增长的不安,目睹着OpenAI的步步推进。在他们眼中,这家公司与其说是一个充满热情的新人,更像是一个财力雄厚到令人难以置信的闯入者,肆意冲进他们毕生研究的问题之中,对长期以来的行业规范以及被甩在身后的人几乎毫不在意。这种不安的核心在于一种感受:OpenAI做数学研究的出发点与众不同。数学家想推动这个领域向前发展,而OpenAI只想赢。
数学界通常没有这么多的戏剧性冲突,那么事情是怎么变成这样的?
本周,The Verge采访了十几位数学家,其中包括处于近期争议核心的特里斯坦·巴克马斯特(Tristan Buckmaster)和安德烈亚斯·托姆(Andreas Thom),他们的工作都与OpenAI最近的成果密切相关。即便是对最严重指控持怀疑态度的人,也描述了这个领域因这家科技巨头的行事方式而受到的震动,以及对其为压倒竞争对手而可能采取下一步行动的恐惧。
巴克马斯特指控OpenAI未能充分说明,他通过该公司的工具Codex所做的工作,是否可能对其近期的成果有所贡献。OpenAI发言人劳伦斯·福孔内(Laurance Fauconnet)在对The Verge的声明中坚决否认了巴克马斯特提示词中的内容曾对其产生影响:“我们可以明确表示,巴克马斯特博士过去两个月内在Codex中输入的提示词,绝无可能以任何方式影响该系统,包括训练过程。”
巴克马斯特仍不为所动。“鉴于他们迄今为止的行为,人们理应对这样的声明抱以极大的怀疑。”他说。
事情的起因只是一则传闻,却足以让紧张局势彻底爆发。OpenAI表示,他们听说有研究者在千年大奖难题上取得了进展,于是决定试试自家一个尚未发布的先进模型能否也有所突破。结果证明确实可以。OpenAI称,该公司动用了大约1万个智能体、耗费数千万美元的计算资源,仅用88小时便找到了纳维-斯托克斯方程问题(涉及流体流动)的解法。
该公司同时也发现了自己在与谁竞争:巴克马斯特,纽约大学教授,以及莱文特·阿尔波格(Levent Alpoge),其最激烈竞争对手Anthropic的一名研究员。这两人当时正在研究多条方向,其中包括纳维-斯托克斯问题,但尚未完成证明。接下来发生的一些细节争议激烈,但双方对基本事件顺序大致认同。有一点特别明确:尽管阿尔波格声称此事是独立于其在Anthropic工作之外的“个人合作”,但他的参与对OpenAI而言却成了一个问题。
巴克马斯特表示,在得知OpenAI已注意到他们的进展、并正加速推进自己的解法后,他联系了该公司。他说,与OpenAI研究员塞巴斯蒂安·布贝克(Sébastien Bubeck)的沟通逐渐变得剑拔弩张,在他看来甚至带有威胁的意味,但公司为他提供了一条出路——一条排除了阿尔波格的路。巴克马斯特说,对方向他提供了几乎“无限的算力”,让他完成自己的研究,并让他成为OpenAI宣布这项突破论文的唯一作者,当然论文中会注明使用了该公司的工具。
“我要做的只是把莱文特出卖掉。”巴克马斯特在电话采访中告诉The Verge。他说自己坚决拒绝了布贝克的提议,在他看来这是一种“贿赂”,同时他也开始质疑,OpenAI是否可能从他使用Codex(他曾用来攻克该问题的公司AI工具之一)的过程中获益。OpenAI否认曾有任何人或任何智能体访问过他的特定用户数据,并且直到最近的表态之前,公司都承认无法排除源自他使用产品所产生的数据被用于改进模型的可能性。
巴克马斯特最终决定公开自己的研究成果,以及他对OpenAI行为的描述。他说,自己的办公室一度变成了某种“作战室”,同事们帮忙审查他的数学证明、协调对外沟通,甚至联系了律师。
布贝克在社交媒体上以及接受《纽约时报》采访时,都否认了巴克马斯特对双方对话的描述。他承认曾提出让OpenAI提供资源,帮助巴克马斯特完成自己的证明,或者由巴克马斯特来主笔撰写公司的论文。值得注意的是,布贝克表示OpenAI曾与其他数学家达成过类似的安排,但没有说明是谁。
但他的说法仍然清楚地表明,阿尔波格与Anthropic的关系是一个棘手的问题。“从我们的角度来看,我们怎么能让一个Anthropic的员工参与OpenAI的内部项目?”他告诉《纽约时报》。
如果目标是在数学领域展开竞争,那么再没有比解决千年大奖难题更大的战果了。这七个问题是克雷数学研究所在2000年提出的,被广泛认为是该领域最艰巨的挑战。每解决一个便可获得100万美元的奖金。这些问题中的许多在设立奖项之前,已经历了数十年的深入研究。在此后的四分之一个世纪里,只有一个——庞加莱猜想,一个关于三维球体的拓扑学问题——被攻克。
因此,对于一家想证明自家模型是数学领域最强的AI公司来说,这些问题具有无法抗拒的吸引力。对于巴克马斯特以及The Verge采访的许多其他数学家而言,这也解释了为何OpenAI一听说有其他人正在逼近答案时,会如此激烈地行动——尤其是当一家竞争AI公司似乎也牵涉其中的时候。
对巴克马斯特而言,这一事件印证了他在此前与谷歌DeepMind合作时就已强烈感受到的一点:“这些科技界的人都痴迷于”解决著名的大难题,并且“痴迷于抢先”,他说。“一切都是竞争。”
在那个世界里,巴克马斯特说,人们对声望、名气、成为第一、以及被看作是第一,有着一种强烈的执念。“那才是唯一的通行货币,”他说。
他说,公司竞相解决知名难题时,往往被“忽略”的正是数学家本身——不仅是那些积累的成果使得这些突破得以实现的人,还包括他们最初从事数学研究的原因。诚然,有些人可能追求声望,但大多数人根本不是猎取战果的人。牛津大学数学教授安德拉斯·尤哈斯(Andras Juhasz)将数学描述为一门优雅的学科,兼具科学与艺术的特质,从业者的动机各不相同。“很多时候并没有立竿见影的实际应用,”他说。“他们做数学是因为它美,他们享受这个过程。那是一种发现的感觉,是自然而然的。”
与课堂上的数学练习不同,前沿数学研究很少有既定的解题路线。研究者可以从多个角度攻克问题,有些角度截然不同,这使得最终导向解答的思路——以及提出这些思路的人——变得格外重要,或许比解决问题本身更为重要。数学家非常看重这种传承脉络,因为这正是这个领域向前发展的方式,新的技术和方法往往比它们最初被设计来解决的问题更具深远意义。
对巴克马斯特来说,他与布贝克的交流正体现了研究数学界与科技巨头世界之间的鸿沟,也凸显了双方对研究价值的不同理解。他读着与布贝克交谈时所做的笔记说,当他拒绝该公司提出的署名安排时,这位OpenAI研究员明显感到震惊。“我能看到塞巴斯蒂安的表情。当我说我不在乎千年大奖时,他很震惊,”他回忆道。
巴克马斯特说,他此前就在科技界研究人员身上遇到过类似的心态。在那个世界里,他说人们对声望、名气、成为第一、以及被看作是第一,有着一种强烈的执念。“那才是唯一的通行货币,”他说。
巴克马斯特并不是唯一一位在与OpenAI打交道后,对该公司动机产生担忧的数学家。德国德累斯顿工业大学教授安德烈亚斯·托姆,在上月因OpenAI宣布的一项令人瞩目的数学成果而陷入争议的中心——该成果在很大程度上依赖于他与同事加博尔·库恩(Gábor Kun)的工作。这家公司悄悄修改了自己的公告,承认了两人的贡献,却没有对外宣布或公开披露这一改动。
托姆将这段经历描述为“不是一次很愉快的体验”,但他告诉The Verge,在巴克马斯特公开发声之前,他基本已经把这件事放下了。巴克马斯特的指控促使托姆重新审视一个未解决的问题:他和同事们与ChatGPT就该研究进行的对话,是否可能被用来帮助改进最终破解了他花费多年研究的问题的模型。
托姆说,只有OpenAI掌握回答这个问题所需的信息。“说实话,我怀疑他们自己都不知道。”他说,负责训练模型以及用模型来产出数学成果的人,是“另一类人”。对他来说,这几乎不能算是不确定性的理由。“因为这实际上意味着他们根本不在乎,对吧?”
这种紧张局势与其他领域已经上演的冲突如出一辙。作家、音乐人、艺术家和媒体公司都曾质疑AI公司利用大量人类创作成果构建系统,却常常没有获得授权、认可或补偿。尽管数学看起来相去甚远,但背后的问题是一样的:公司对那些被它们摄取用来构建系统的成果的创造者,究竟负有什么责任?
在托姆的案例中,这个问题仍未解决。OpenAI没有回应The Verge关于托姆及其同事与ChatGPT的对话数据是否可能对该公司基于其研究成果得出的解法有所贡献的提问。
更广泛地说,托姆表示他不满于自己所看到的一种情况:人们未能承认支撑起AI近期数学进展的“整个社区所付出的共同努力”。他说,各公司“现在只是在使用这些成果,仿佛它们毫无价值一样”。
“我认为这里面有一种我不喜欢的态度,”他说。
并不是说数学家对竞争感到陌生——研究者非常在意优先权,谁先取得成果的激烈争议在数学史上比比皆是——但竞争并不排斥合作,而眼下的对手却绝非寻常。历史上,在数学领域抢先发布成果相对困难,原因显而易见:极少有人具备足够的专业知识能够快速介入某项发现。而AI公司的运作规模截然不同。研究者担心,它们可能把抢发成果变成一种工业化的流程,一旦风声传出某项突破即将完成,便能迅速调动成千上万个智能体和海量的计算资源,令数学家们几乎无力反抗。
在巴克马斯特看来,OpenAI本可以轻松选择与研究者合作,而不是与他们竞速。事实上,公司似乎也完全愿意与他合作。问题在于阿尔波格,或者更准确地说,在于他与Anthropic的关系。
“他们急于发表,急于抢在Anthropic之前,”他说。他们几乎没有留意夹在中间的研究者。
尽管如此仓促,OpenAI要知道自己是否真的凭借解决纳维-斯托克斯问题赢得千年大奖,还需要等上好几年。克雷数学研究所要求,一项成果发表后必须经过两年的观察期,期间该成果需要“得到全球数学界的普遍认可”。目前,纳维-斯托克斯问题正处于一种奇特的悬而未决的状态:研究所已将其从未解决问题清单中移除,但尚未宣布该问题已被解决。“这一过程是有意放慢节奏的,”研究所在一份声明中表示。
与此同时,OpenAI已经着手下一个目标。OpenAI的福孔内在对The Verge的声明中表示,“自纳维-斯托克斯问题完成以来,我们在另一个千年大奖难题上已取得了实质性进展”,并补充说该公司“正在研究如何审慎地分享这些成果”。
具体是哪个问题目前尚不清楚。社交媒体上未经证实的猜测认为,这可能是霍奇猜想,粗略地说,该猜想涉及复杂几何形状如何用更简单的基本构件来理解。也有传闻称,Anthropic正在逼近自己的一个千年大奖难题。
当这两大AI巨头竞相收集更多数学战果时,它们正在发现,仅凭惊人的成果并不足以赢得他们正在改变的这个学术共同体的信任。
数学家们已开始反击。The Verge采访的许多人,即便是对AI介入该领域最热情的支持者,也担心这些公司正在对研究产生寒蝉效应,促使数学家对未完成的工作更加保密,担心有人会突然介入并抢先完成。多位受访者表示,此前曾编制重要未解问题清单的同事正在重新考虑这一做法,担心原本旨在为学界提供有用资源的清单,反而可能变成AI公司的目标名单。
反抗的声音正变得愈发公开。今年6月,数学家们发布了《莱顿宣言》,这是一套关于在数学领域负责任地使用AI的原则,已获得国际数学联盟的认可,并有近3900人签署——相比我今年8月中旬报道时增加了近500人。该宣言呼吁政策制定者、政府、媒体及其他各方,不要被那些“夸大自身产品能力”的公司制造的“炒作”所裹挟。在千年大奖争议持续升温之际,OpenAI宣布撤回对加州理工学院一场本科生数学黑客马拉松活动的赞助,此前该活动遭到强烈反对,反对者谴责企业利益的介入,并担心这场活动会带来大量低质量的“数学垂圾”。
“他们根本不在乎我们这个学术共同体。这一切只是两家万亿美元级公司之间幼稚的争斗,他们的行为就像小孩子一样。”
中国清华大学数学教授、哈佛大学荣休教授、菲尔兹奖得主丘成桐告诉The Verge,他担心此事可能对年轻研究者产生的影响。“对于博士生和初级教职人员来说,攻克难题本身已经承担着相当大的风险,”他说。“与资源远超学术研究团队的强大AI公司竞争,可能会让他们更加不愿意去追求有野心的问题。”
丘成桐没有就研究者的成果是否可能被OpenAI使用的指控发表意见,但他表示支持进行独立审查,以查明事情的真相。更广泛地说,他担心缺乏透明度以及争先宣布成果的做法,可能会掩盖一项突破背后的思想传承脉络。他说,数学领域的贡献认定应当反映的是智力上的贡献,而不是谁拥有最多的算力预算,或者谁的公告声量最大。
丘成桐还指出了另一个问题。OpenAI和其他AI公司处于一个特殊的位置:它们既是重要研究工具的提供者,某种程度上也是研究者本身。他说,这“引发了严重的利益冲突问题”,尤其是考虑到它们可能从对客户尚未完成、尚未发表的工作享有的特殊访问权限中获益。
“这一担忧值得得到实质性的回应,”他说。“不应该简单地被当作普通竞争而一带而过。”
这种日益增长的不安感,很大程度上归结为信任问题。数学家们即便不接受对OpenAI最激烈的那些指控,也仍然会对一家既提供他们研究工具、同时又与他们竞争的公司感到担忧。
“说实话,我认为某个数据安全公告之类的东西根本解决不了这个问题,”托姆说。“我并不真的信任他们。”巴克马斯特也有类似的感受:“我们凭什么该相信他们说的任何话?”
巴克马斯特说,同事们对他公开发声的反应总体上非常正面。但其中也夹杂着另一种情绪:恐惧。他告诉The Verge,他最初打算在公开自己的经历时感谢那些支持他的人。但由于许多人对公开署名感到不安,他最终决定不这样做。“事实是,数学家们真的很害怕他们,”巴克马斯特说,指的是那些AI公司。
而恐惧显然不是建立一个富有成效且健康的研究共同体的坚实基础。巴克马斯特并不认为这对涉及其中的公司而言有多重要。“他们根本不在乎我们这个学术共同体,”他说。“这一切只是两家万亿美元级公司之间幼稚的争斗,他们的行为就像小孩子一样。”
Q&A
Q1:OpenAI是如何解决纳维-斯托克斯方程问题的?
A:OpenAI表示,该公司动用了大约1万个智能体、耗费数千万美元的计算资源,仅用88小时便找到了纳维-斯托克斯方程问题的解法,这是七大千年大奖难题之一,涉及流体流动的研究。
Q2:巴克马斯特指控OpenAI的具体内容是什么?
A:巴克马斯特指控OpenAI未能充分说明他通过Codex工具所做的工作是否影响了其研究成果,并称OpenAI曾提议让他独享论文署名,条件是排除合作者阿尔波格,他认为这是一种“贿赂”并公开拒绝。
Q3:数学界对AI公司介入研究有哪些担忧?
A:数学家们担心AI公司凭借海量算力资源可能把抢发成果变成工业化流程,导致研究者更倾向于保密未完成工作,同时担心公司既提供研究工具又参与竞争会带来利益冲突问题,损害学术信任。
