Anthropic完成了一件看似不可能的事。它让加速主义者、安全主义者、有效利他主义者和伦理学家们团结在了同一个事业之下。不幸的是,对该公司来说,这个共同事业就是阻止Anthropic。来自AI领域不同派系的众多知名人士在"反Anthropic声明"上签名,批评该公司在以安全为名的同时实则为了利润而一路狂奔,而此时正值该公司计划进行首次公开募股(IPO)前夕。
声明写道:"Anthropic警告说,递归自我改进的AI可能会导致权力集中并逃脱人类控制,但该公司却在争先恐后地率先打造这种技术。该公司利用'安全'品牌来吸引投资者、员工和公众——即便它已经悄悄削弱了自己的安全承诺,并为有利于自身的监管进行游说。Anthropic并不是一家安全的AI公司,我们必须拒绝其以'更大的善'为名进行权力攫取的鲁莽企图。"
签署者名单堪称AI安全辩论领域的"名人录",部分原因在于该声明的措辞十分模糊,几乎任何人都可以心安理得地在上面签名——这就是为什么埃米尔·托雷斯(可能是加速主义运动最知名的批评者)会与纪尧姆·维尔登(即Beff Jezo,该运动本身的创始人)的名字并列出现在同一份声明上。
尽管这份信件的措辞已经尽量做到让人普遍认同,但仍有人认为它过于严厉。开放权重倡导者、Trillium Labs创始人内森·兰伯特在推特上表示,尽管他确实认为"Anthropic正在寻求权力",并且并未承认自己所制造的风险,但他选择不签名,因为他"认为这份声明的措辞对我来说过于强硬"。
AI安全中心主任丹·亨德里克斯在推特上指出,这份声明的措辞强硬到足以让一些不愿破坏与Anthropic关系的人望而却步(更重要的可能是,他们不想搞乱自己的资金来源)。他写道:"许多AI安全组织私下告诉我们,他们认同这份声明,但感觉自己无法签名,因为这样做会有损关系或影响未来的资金支持。Anthropic几乎已经——但并非完全——俘获了本应对其进行监督问责的生态系统。"
亨德里克斯有过将人们团结在看似十分合理、但最终毫无意义的声明之下的历史。他的组织此前曾促成OpenAI首席执行官萨姆·奥特曼和Anthropic首席执行官达里奥·阿莫代伊共同签署一份关于AI灭绝风险的声明,内容写道:"应将缓解AI带来的灭绝风险作为全球优先事项,与流行病和核战争等其他社会层面的风险同等重视。"这听起来似乎相当合理,但如今的情况是,亨德里克斯又在号召其他人签署另一份声明,因为Anthropic显然不仅未能遵守之前的那份声明,反而还将其为自己谋利所用。
当然,相当一部分签署者确实是出于真诚的关切,他们真心认为Anthropic在误导公众,让外界误以为其对AI安全的投入程度远超实际。AI研究员、对大语言模型能否实现超级智能持怀疑态度的知名人士加里·马库斯也在声明上签了名,并在推特上表示,他的担忧并不仅局限于Anthropic一家公司。与他一同签名的还有数十位来自哈佛大学、麻省理工学院和加州大学洛杉矶分校等机构的研究人员和学者,他们都警告说,Anthropic并不是其自我标榜的那种"安全第一"的实验室。
但其中一些签名或许应该打上一个星号加以说明。
以xAI联合创始人伊戈尔·巴布什金为例。虽然他的联合创始人埃隆·马斯克并未出现在名单中,但这份声明借用了马斯克最喜欢用来讽刺Anthropic的一个称呼——"MisAnthropic"(反人类)——作为标题。巴布什金于2025年8月离开xAI,创办了一家专注于AI安全研究的投资公司,但他此前所在的公司仍与Anthropic的业务有着深度纠葛。目前,xAI的母公司SpaceX正将其Colossus数据中心出租给Anthropic用于训练Claude模型,这似乎并不像是一家真正担忧危险超级智能发展的公司会做的事情。
然后是维尔登,他在推特上更为人熟知的名字是Beff Jezos。他是"全速前进、绝不刹车"这一AI发展观的代表人物,认为我们应该不顾一切地推动技术和资本主义的快速发展,因为在他看来,技术的发展本身最终将解决这一过程中产生的所有问题。他还认为人类并非意识存在的必要条件,并"对生物基质本身并无特别的忠诚"。
维尔登此前对以安全为名放缓AI发展并没有表现出多大热情,但他如今认定Anthropic是导致英伟达黄仁勋被赶下台的幕后黑手——这一指控并无公开证据支持——并因此开始担忧该公司权力的积累。他所担忧的并非Anthropic违背了自己所倡导的安全实践,而是该公司可能通过监管俘获,将其他公司锁定在严格的安全要求之下。你看,如果你能禁止别人上赛道,那也就不存在什么"通往灭绝的竞赛"了。
这份信件不太可能对Anthropic的IPO造成任何实质阻碍,哪怕只是一点点影响。但至少,看到AI领域中有如此多不同派系都希望这家公司放慢脚步——即便出于完全不同(且往往是出于自身利益)的原因——这件事本身也颇为有趣。
以83美元每股的价格,Anthropic筹集了1073亿美元资金,超过了SpaceX的857亿美元估值。
AI圈的网红们对OpenAI的新更新并不满意。
