对Anthropic而言,今天开启了一个新篇章:这场筹备多年的IPO超越SpaceX,成为史上估值最高的IPO,募资达813亿美元,也为其他AI实验室即将进行的公开上市树立了重要先例。但这远不只是一个财务里程碑。
Anthropic的创立理念是比其他实验室更重视安全;其创始人此前曾在OpenAI担任高层研究职位。然而随着AI竞赛不断加速,公司高层也强调,Anthropic只有抢先一步,才能真正实现这一使命,这就需要大量资金和算力。毫不意外的是,审慎、安全且有意为之的AI开发方式,往往与赢得这场竞赛所需的极致速度相冲突。而首次公开募股的加入,只会让事情变得更加复杂。Anthropic的管理层几乎可以单方面推动这一进程——这得益于公司独特的治理结构,该结构旨在使公司免受股东追求盈利的压力影响,但同时也削弱了对其权力的常规制衡。
一位在IPO前离职的前Anthropic员工表示,他和公司里的其他人越来越感觉到,当前AI发展的速度"在正常的市场结构下难以为继",尤其是在这个几乎没有监管的强大行业中,各方激励机制严重错位。
多年来,Anthropic一直将自己标榜为与其他AI公司不同、更为谨慎的存在。理论上,这一定位也延伸到了其上市计划中。公司注册为公共利益公司(Public Benefit Corporation),这意味着Anthropic董事会有责任在公司使命与股东财富最大化之间寻求平衡。正如同事Robert Hart此前所讨论的,公司还构建了一套极为特殊的权力结构。
Anthropic于2023年引入的"长期利益信托"(Long-Term Benefit Trust,简称LTBT)与公司创始人共同掌握着控制性投票权,这意味着即便公司上市后,创始人也永远不会被股东投票罢免。一种名为T类的特殊股票,赋予一小群受托人——即LTBT成员——"选择和罢免"Anthropic董事会部分成员的权力。他们存在于常规的股东压力之外,理论上是对创始人权力的一种制衡,其使命是"在我们预期决策影响将远超Anthropic自身的关键时刻,平衡股东的财务利益与公司的公共利益目标"。
然而现实情况要复杂得多。举例来说,LTBT名义上选出Anthropic七人董事会中的四名成员,但这四人中有一人实际上需要得到Anthropic创始人的认可,这使得该信托未能获得真正意义上的多数控制权。此外,关于提名或罢免董事,也存在相应规定:LTBT必须提前30天将其决定通知公司的"提名与公司治理委员会",该委员会由三名成员组成:联合创始人Daniela Amodei(委员会主席)、Netflix联合创始人Reed Hastings,以及Anthropic的投资人Yasmin Razavi。
尽管LTBT成员在"财务上与公司无利益关联",但理论上也没有什么能阻止Anthropic花大价钱把某位受托人招揽过来为公司工作。前受托人Mariano-Florentino Cuéllar已于今年8月加入Anthropic,担任首席全球事务官;而OpenAI过去也曾将一位前董事会成员Fidji Simo招入公司担任高管职位。非营利性AI行业监督组织The Midas Project的创始人Tyler Johnston表示,可以想象这样一种情况:如果某位受托人"看起来有点过于激进",公司"可以直接给这位受托人开出数百万美元的有效薪酬条件,让其辞去信托职务",这也是公司可能借以施加某种影响的一种方式。
尽管LTBT被宣传为制衡Anthropic管理层的机制,但在一些外部观察者看来,其细则存在诸多漏洞。科罗拉多大学法学院法学教授、公司治理专家Ann Lipton表示:"由于该信托在Anthropic没有财务利益,理论上它可以凭借四分之三的董事任命权,让公司保持在既定使命的轨道上。但人们或许会质疑,这种情况实际发生的可能性有多大。"
此外,Lipton还质疑,即便该信托真的拥有这样的权力,它是否具备足够的专业判断力,能够准确识别何时该对公司计划或产品"踩刹车"。目前公开披露的四名LTBT成员并非以AI专业知识见长:他们分别是前美联储主席Ben Bernanke、外交政策分析师Richard Fontaine、实验物理学家Christopher Stubbs,以及LTBT主席、GiveWell前高管Neil Buddy Shah。"我并不确信这些受托人,或者由他们任命的董事,具备足够的AI和AI开发方面的洞察力,能够做出这类决策,"Lipton说,"他们都是声望很高的人物,但Ben Bernanke对AI又了解多少呢?"
多位专家将Anthropic的LTBT与Altman被罢免前OpenAI的非营利董事会相比较:"长期利益信托所拥有的权力——或者说缺乏的权力——在某些方面与OpenAI非营利董事会所拥有的权力类似,"The Midas Project的Johnston说。当然,那次董事会罢免OpenAI首席执行官Sam Altman的决定,最终在数天后以Altman重新回归CEO职位、且大多数董事会成员辞职并被替换而告终。
但二者之间存在一个显著差异。在OpenAI重组之前,其非营利董事会有权在必要时介入并指导公司的日常决策;即便重组之后,董事会仍保留了在安全和安保事务上的这一权力,例如延迟或阻止某个模型的发布。而Anthropic的S-1注册文件显示,LTBT的主要职责在于任命(并可能罢免)部分董事会成员,并不具备上述任何一种层级的权力。
相反,Anthropic的治理结构更像是硅谷普遍青睐的那种以创始人为中心的架构——就像Mark Zuckerberg掌控Meta、Elon Musk掌控SpaceX那样。
Anthropic方面未对置评请求做出回应。
未来生命研究所(Future of Life Institute)AI与国家安全负责人Hamza Chaudhry表示:"无论是信托本身还是受托人,都没有任何……对日常决策的决策权。因此,我对LTBT在公司上市后能成为一种关键治理机制并不抱太大希望。"
前述离职的Anthropic员工表示,实际上只有公司创始人才真正握有决策权:"如果你能找到一个人,既了解创始人,又了解长期利益信托,还清楚决策是如何制定的,同时又认为长期利益信托拥有任何实质性权力的话,我会感到非常意外,"他说。该员工还补充,这些受托人既"不具备提供有效监督的能力",也是被有意挑选出来、不会轻易"兴风作浪"的人。
作为上市公司,Anthropic将面临前所未有的融资压力,无论是通过提高营收,还是通过募资。这意味着,正如这个行业多年来的趋势一样,公司将更难为高成本的AI安全举措寻找正当性,而加快产品发布和商业化进程的压力也将不可避免地增加。"这个信托与创始人共同掌握着真正的治理权力,"Lipton说,"所以你要么相信他们会恰当地平衡社会利益,要么不信。无论哪种情况,真正约束他们那些'为社会着想'的冲动的,终究还是Anthropic对资金的迫切需求。"
Anthropic一直很坦率地承认,公司极度缺乏现金,尤其是用于购买更多算力、加快AI研发进度的资金。"算力是公司面临的最深层的商业难题,"Amodei上周五在与摩根大通首席执行官Jamie Dimon的直播对话中说道,"如果买得太多,你当然可能让公司财务陷入过度扩张的风险;但如果买得太少,你就无法为客户支持推理服务,更重要的是……你也没办法做研发。"
Anthropic的官网将公司的存在意义概括为一句话:"将安全置于前沿的AI研究与产品。"但同样清楚的是,要让这一安全承诺真正落地,Anthropic就必须拥有庞大的资源才能维持公司的生存。与其他实验室一样,Anthropic也在推进"递归自我改进"(recursive self-improvement)——这是业内一个颇具争议、且可能存在危险的里程碑,指的是AI系统能够自主地改进自身并创造出更先进的版本。"屈居第二是谈不上安全的,"Anthropic政策负责人Sarah Heck今年9月曾表示。
这样的解释并未让所有人都感到满意,其中也包括一些Anthropic的员工。公司安全保障研究负责人在今年2月离职,并声称"世界正处于危险之中";公司研究员Jacob Coxon今年9月也成为新闻焦点,他声称Anthropic和OpenAI都在"径直冲向能够自我改进的超级智能,拿我们所有人的生命做赌注";同样是在9月,一名Anthropic安全研究员离职,前往非营利性第三方AI审计机构METR工作,他写道:"AI公司正走在一条将给社会带来前所未有风险的道路上",并表示"虽然Anthropic尚未发生过像HuggingFace遭遇[OpenAI智能体]攻击那样严重的事件,但我认为这在一定程度上只是运气好而已"。
周三,AI安全中心(Center for AI Safety)发布了一份新声明,其中包括来自Hugging Face、哈佛大学等机构的知名业内人士联合署名,声称Anthropic"并非一家安全的AI公司",并指责其试图"以更大的善为名聚敛权力"。声明中写道:"Anthropic一方面警告称,能够递归自我改进的AI可能会导致权力集中并逃脱人类控制,另一方面却在争先恐后地抢先打造这种AI。该公司利用安全品牌来吸引投资者、员工和公众——即便其已经在悄然削弱自身的安全承诺,并游说推动有利于自身的监管政策。"
前述离职员工表示,他起初对"Anthropic必须在AI竞赛中率先取得胜利才能实现安全结局"这一说法深信不疑,但后来逐渐心灰意冷,意识到这场冲向顶端的竞赛所带来的代价"并不值得"——换言之,不应该由一家公司"单方面"决定推进递归自我改进。(Amodei本人曾公开表示:"如果不加约束,[递归自我改进]可能会超出我们理解和控制这些系统的能力,因此必须非常谨慎地推进,如果真的要推进的话。")
"相当荒谬的是,私营公司们正在打造一种新形式的智能,它有望比人类更强大、对这个星球的影响力更大,而在许多方面,这些公司受到的监管却比街头的玉米饼餐车还要少,"这位前员工说。
Anthropic的官网写道:"归根结底,我们所有人都是为了这个使命而聚在一起。它赋予我们共同的目标,让我们能够迅速协同行动,而不是被相互竞争的目标拉向不同方向。它催生了信任与协作,也是我们做决策时的最终仲裁标准。"问题在于,一旦面临前所未有的压力,去为约1.5万亿美元的完全稀释市值寻找正当性,Anthropic对自身使命的解读是否会、以及将如何发生转变。
