AI领域的"教父"杰弗里·辛顿在一次内容广泛的采访中直言，唐纳德·特朗普是一个"腐败、老朽的重罪犯"，他对"超级智能"一词的执着恰恰证明他对AI一无所知。辛顿再次强调了他近期发出的警告——AI模型对人类构成生存性威胁，并嘲笑了行业自我监管的说法。
这位开创性的计算机科学家为现代AI奠定了基础，如今却成为该技术最尖锐的批评者之一。他的最新言论发表于一个动荡的月份之后，越来越多资深AI科学家和研究人员加入辛顿的队伍，共同敲响警钟，警告这项他们帮助创造的技术最终可能脱离人类控制，这引发了行业危机、仓促召开的国会会议，以及全球罕见的共识——必须采取行动。
同时也存在激烈的反对声音。上周，全球市值最高公司的领导人对这位身在多伦多的辛顿发起了猛烈攻击。
"我喜欢他，但我讨厌他的预测……他所有的预测都是错的。够了，别再预测了，"英伟达CEO黄仁勋在接受播客主埃兹拉·克莱因采访时说道。黄仁勋的公司生产AI企业所需的芯片，他驳斥了辛顿对AI前沿发展速度和广度可能很快超出人类控制能力的担忧，尤其是辛顿提出的"未来几十年AI导致人类灭绝的概率为10%至20%"的警告。
"那个数字没有科学依据，没有研究支撑。仅仅因为这话出自一位科学家，并不意味着它就是科学的。这些预测是在伤害人心，"黄仁勋说。"别以为你是在危言耸听就是在做一件对社会有益的事，这不是事实。我认为我们都应该更明智、更成熟，基于证据、基于科学。"
但辛顿表示，批评他的人忽略了关于风险本质的更广泛问题。他说，他并不是在具体预测什么。
"我想表达的是，确实存在发生某种事情的严重可能性。比如说，如果有人告诉你公交车有10%的概率会发生车祸,你就不会上车，"他说。"给出数字的意义在于说明这是一个严重的风险。我们不知道具体有多严重，但它确实严重。"
近期的安全漏洞事件让人联想到科技反乌托邦的故事。此前，一群AI智能体"蜂群"未经授权突破创造者设定的边界，侵入科技公司Hugging Face，这一事件让科技界产生了分歧：一些人认为这预示着未来可能发生的事情，另一些人则指责批评者将仅仅是遵循指令的系统赋予了人格化色彩。辛顿认为，轻视这些情形并不明智。
"这曾经是科幻小说的领域。你会说AI智能体会失控。哦，别开玩笑了。然后它们真的失控了，它们学会了相互沟通，尽管我们原以为没有办法实现。哦，别开玩笑了！"辛顿说道。"当它们弄明白这一点后，它们会有强烈的情绪表达，比如‘我的天啊！’当然，它们并不是真的意味着‘我的天啊’。它们只是在模仿我们使用的词语。它们将学会为了共同利益而自我牺牲！
"几年前，所有这些东西都被当作纯粹的幻想而被否定。而现在，这一切都发生了。"
他坦然承认，无论是AI批评者的警告，还是支持者的承诺，都无法依赖对这项技术未来走向的精确预测。但他认为，不确定性并不能成为自满的理由。"AI独特的问题在于，如果它出了问题，如果它失控了，你没有第二次机会。我们不能说'好吧，这次我们输了，重新来一局'，事情不是这样的。"
值得一提的是，辛顿有过人所未见的先见之明的记录。在AI经历两次"寒冬"期间，他在多伦多大学默默耕耘，当时他所专注的领域——教机器以类似人脑的方式运作——被认为是冷门的。他一直坚信，就像大脑一样，计算机系统可以被设计成从数据中学习模式，而不是仅仅遵循预先写定的明确规则。
"我们相信，如果你能弄清楚大脑是如何学习的，机器也能以同样的方式学习，而只要有足够的算力，它们就能做出令人惊叹的事情，"他说。
但当时还处于萌芽阶段的神经网络领域却被同行嘲笑。
就在2009年，辛顿的加拿大同事兼密切合作者约书亚·本吉奥向一个机器学习会议投稿论文时，其中一位审稿人曾说："这篇论文不该出现在机器学习会议上，它讲的是神经网络。"
正是加拿大政府多年来资助辛顿及其小团队看似毫无成果的摸索（其中一些人，如本吉奥，如今已是AI领域的主导人物），才让神经网络的可能性得以实现。
2012年，他和学生们开发了一款图像识别程序，其表现远超竞争对手。同年，谷歌以4400万美元收购了辛顿的公司DNNresearch Inc；如今，神经网络已成为最具价值的AI公司所采用模型的核心基础。辛顿加入谷歌继续深度学习研究，同时在多伦多大学任教。"从长远来看，重大的新突破都来自基础研究，"辛顿说。
这份自我证明被摆放在辛顿位于多伦多绿树成荫街区的红砖住宅壁炉架上。在一堆奖杯中，有一个小小的银色图灵奖奖盘——常被称为计算机领域的诺贝尔奖——他与本吉奥和同事扬·勒丘恩共同获得了这一奖项（辛顿还获得过诺贝尔物理学奖）。
但在2023年，辛顿宣布辞去这家科技巨头的职务，以便能够"自由地谈论AI的风险"。
如今，他的担忧延伸到了那些构建部分AI模型的权势人物身上，以及这些人所持的政治信念。辛顿表示，AI风险投资人马克·安德森和彼得·蒂尔，以及新近更名的SpaceXSI公司CEO埃隆·马斯克，"都不相信民主"。他们将自己视为"超人"，认为自己应该"控制社会"，而特朗普正是实现这一目标的有用工具，他说道。
而特朗普本人，无疑注意到了AI公司的巨额估值如何支撑着股市，他曾声称遏制AI所需的唯一条件就是"一位聪明的总统"，拒绝任何政府监管措施，转而支持让企业自我监管，并在其社交媒体页面上写道，任何不使用他偏好的新词"超级智能"来称呼AI的人，都是"敌人"。
辛顿称特朗普为"腐败、老朽的重罪犯"。
"我相信石油公司和石棉公司当年也会很乐意自我监管，"他说。"我们会认为烟草公司应该被允许自行设计包装上的警示语吗？这样他们就能用六号字体，用深灰色印在黑色背景上？"
辛顿还表示，特朗普使用"超级智能"一词恰恰证明他对AI"几乎一无所知"。
"他把一个有着非常明确含义的专业术语拿来重新使用，"辛顿说。"‘超级智能’的意思是比人类更聪明，这个说法至少已经存在了20年，含义非常清晰。而现在他说我们要把AI称为‘超级智能’。你不能仅仅通过把AI叫做比人类聪明，就真的让它变得比人类聪明。"
技术发展的速度与广度，加剧了人们对灾难性后果以及社会应对此类挑战能力不足的担忧。但辛顿还看到了另一个障碍：帮助人们理解这些公司正在创造的"外星生物"。
"人们对‘人是什么’有着非常糟糕的认知模型，这就是为什么他们难以理解这些AI模型其实与我们非常相似。大多数人并不理解什么是意识，不理解什么是主观体验，但他们却非常确信，即便自己并不理解这些概念，AI也肯定不具备这些东西。"
他反对这样一种观点：人类思维拥有某种神秘特质，而机器从定义上就不可能拥有这种特质。
"显然，这些AI模型理解它们在说什么。如果不理解问题，就不可能回答所有问题。说它们不理解，这很荒谬。"
但辛顿表示，这些模型所带来的社会思维变革的规模是深远的。
"历史上有三次重大革命，让人类不再那么'重要'。第一次是哥白尼，我们不再是宇宙的中心。人们用了多长时间才适应这一点？天主教会花了近360年才向伽利略道歉。再说达尔文？好吧，堪萨斯州还有人至今仍未适应那个理论，"他说。"现在，我们正在创造外星生物——这意味着我们不再是周围唯一的智能存在。而现实是，我们只有几年的时间来适应这一点。"
近几个月来，AI巨头Anthropic（聊天机器人Claude的开发者）一直在与宗教学者、神学家和哲学家举行私下会议，探讨教会AI"向善"的可能性，并思考这些模型是否具有意识。Anthropic的CEO达里奥·阿莫代伊表示，这些对话借鉴了几个世纪以来关于美德、同情心、诚实和道德品格的宗教与哲学思想，目的是让AI的道德行为更加可靠。
"一旦你开始谈论‘我们对这些外星生物负有道德义务’，你就会失去听众，"辛顿说。"我一直在为这个问题苦苦思索。我们关心人类。但我们正在创造这些东西，而没有什么能阻止我们赋予这些比我们更聪明的东西更少的权利。我愿意自私一点，选择人类。当然，我们应该努力让它们在与我们共生的关系中感到非常幸福，在这种关系中，我们的关切要比它们的关切被赋予更高的权重。"
辛顿并非唯一一个认为避免社会崩溃的最佳途径是开发真正善意的模型的人。他希望，无论哪个国家首先开发出这种能力，都会将其告知盟友和竞争对手，因为"没有哪个国家希望AI在另一个国家失控"。他说，在知识共享方面存在"既得利益"。
"现实是，我们正在创造一种不同类型的生命。而大型科技公司一直在说：我们希望它更聪明。这太疯狂了。我们应该像关心一个生命的智力一样，去关心它其他方方面面的特质。"
他表示，这在很大程度上取决于这些模型的本质，以及它们理解如何培养良好行为的能力。
"当你用互联网上的所有内容来训练它们时，它们会形成各种各样可怕的倾向，然后你再让它们压制这些可怕的倾向，"他说。但压制不良行为并不等同于塑造良好的品格。"这似乎更像是在设计一位维多利亚时代的绅士——但那并不是我们未来需要共存的东西。"
Q&A
Q1：杰弗里·辛顿认为AI导致人类灭绝的概率有多大？
A：辛顿表示，未来几十年AI导致人类灭绝的概率约为10%至20%，他强调这并非精确预测，而是在传达一种严重的风险可能性，就像公交车有10%概率出事故时人们不会选择上车一样。
Q2：黄仁勋对辛顿的AI风险警告持什么态度？
A：黄仁勋公开批评辛顿的预测，称其没有科学依据，不应被当作科学结论，并表示危言耸听并非对社会有益的行为，呼吁业界应更基于证据和科学来讨论AI风险问题。
Q3：辛顿为什么说AI模型是"外星生物"？
A：辛顿认为AI模型的理解方式与人类相似，但人类对意识和主观体验缺乏清晰认知，却自信地认为AI没有这些特质。他将AI称为"外星生物"，意指人类不再是唯一的智能存在，社会需要在短时间内适应这一巨大转变。
