微软首席执行官萨提亚·纳德拉表示,自己已经"接受AGI"概念,至少在人工智能可能对经济结构带来的剧变、以及由此引发的政治变革方面是如此。在旧金山大通中心举行的微软Ignite大会主题演讲后的一场圆桌讨论中,他表示:"从'接受AGI'这个角度来说,我思考的是:在经济层面上,围绕通用人工智能,政治经济体系将如何组织?"

不过纳德拉并不认为像Claude这样的前沿模型具有意识。他说:"我不这么认为。"他补充道,自己认同微软人工智能首席执行官穆斯塔法·苏莱曼的观点,即公司不应赋予模型权利,也不应将其视为具有某种道德地位的存在——而Anthropic等公司却出于原则性考虑这样做。苏莱曼曾对我表示,他认为Anthropic团队已经把自己"洗脑"了,这种做法十分危险。

纳德拉的态度则没有那么坚决。他说:"这是个很好的辩论话题,我并不是那么教条主义。我想说的是,我们面临的最重要的社会技术问题是:如何确保这项技术能够在经济体系中广泛扩散?"

在听到纳德拉回应另一位记者关于Anthropic在其办公套件中发布更多产品的提问后,我进一步询问了他如何看待人工智能的发展。纳德拉详细谈到了如果某一个人工智能模型获得垄断地位,经济可能崩溃、民主制度可能终结的风险。

"如果按照某种'马克思主义'的观点,世界上只剩下一家公司,那就全完了,对吧?对我们所有人来说都是如此。"

他说:"大多数人把这看作科技公司之间的竞争,这当然也确实是其中一部分。但请记住,模型是没有边界的。它可以成为一家医疗保健公司,可以成为一家金融服务公司,只要它愿意,它可以变成任何形态。它甚至可以接管政府。如果把这件事仅仅看作科技公司之间争夺下一个万亿美元市值的狭隘竞争,这是对这个问题最奇怪、最狭隘的理解方式之一。"

纳德拉接着表示,未来公司本身的性质也可能受到颠覆。他问道:"如果智能具有网络效应,那么企业的未来会是什么样子?如果模型能够看到一切并学习一切,基本上所有的人力资本都会坍缩为'Token资本',那么企业以及企业中的人力资本又扮演什么角色?这正是我们需要辩论的问题。"

"我认为在这种背景下,政治经济学将变得越来越有意思。如果最终的局面是只剩下资本、没有劳动力,那么——至少在民主体制下——没有人能够赢得选举。我是说,我不知道,那样的话根本就不能算是一种'经济'了。"

"如果按照某种'马克思主义'的观点,世界上只剩下一家公司,那就全完了,对吧?不仅对我是这样,对所有人都是如此。你最终也会在某种意义上,成为Anthropic的附属品。"

不用说,这可不是科技公司首席执行官们平时谈论竞争对手推出新款电子表格软件时会说的话。

当然,纳德拉在Ignite大会上也在推广微软的各类人工智能工具,这些工具承诺让企业客户能够针对不同任务选择性价比最高的模型,运行自有模型,并以各种方式掌控自己的数据。这背后的理念是:市场将需要多种多样的模型以及主权数据体系,以防止控制权走向集中化——这也是我们交谈过程中纳德拉反复提及的一个主题。

他说:"我认为,如果你相信这个世界、这个经济体系需要不止一两家公司,那么从定义上讲,模型的数量也就应当与公司的数量大致相当。"

The Verge