达里奥·阿莫代伊发表长文引发了过去几天关于AI安全的一系列声明浪潮,山姆·奥特曼、特朗普总统等人纷纷就此发表看法。

Anthropic首席执行官达里奥·阿莫代伊周六上午发表了一篇题为《我们必须为前沿AI设定节奏》的长文,概述了放缓AI发展的三个步骤:设立能够核实公司是否遵守安全实践和承诺并报告事故的嵌入式第三方评估机构;民主国家的前沿AI公司之间就标准和限制进行协调;以及民主国家政府与威权国家政府之间"在可能的范围内"就AI发展节奏进行全球协调。阿莫代伊表示,Anthropic正"单方面承诺执行第一项措施"。

不过,阿莫代伊也指出,控制节奏"并不意味着停止模型训练或技术进步,而是确保公司有足够时间对齐并保障其模型安全,并由第三方评估机构予以确认"。

OpenAI首席执行官山姆·奥特曼在阿莫代伊于X平台发布文章后不久回应称:"我同意达里奥的观点,我们需要控制前沿AI的发展节奏。这是我们近几周在OpenAI内部讨论的一个主要话题。"奥特曼还承诺在公司内部引入独立评估机构,称这是一个"绝妙的主意"。

周日,奥特曼表示OpenAI欢迎"为前沿AI设定一致安全要求的联邦框架"。他补充说,OpenAI希望其他公司能"借鉴我们的做法并提出自己的方案;我们认为在错位、监控和安全方面建立共同标准将带来更好的结果"。与阿莫代伊一样,奥特曼也表示:"当我们谈论'控制节奏'时,并不意味着'停止'",并指出进展应"比原本可能的速度更慢一些"。

奥特曼还指出了他认为AI进展可能"走向严重恶果"的两种方式:"失去对未来的控制权"以及最终"陷入权力过度集中的世界",他表示可以通过"走一条狭窄的中间道路"来避免这两种情况。

谷歌DeepMind联合创始人兼董事长戴密斯·哈萨比斯在回应阿莫代伊的文章时表示:"达里奥的文章指出了正确的前进方向。细节还需要进一步完善,但方向对于应对当前这个关键时刻是正确的。"哈萨比斯还提到了他今年七月发布的AI标准机构框架。

SpaceX首席执行官埃隆·马斯克在转发阿莫代伊的文章时表示:"达里奥是对的。"

美国总统唐纳德·特朗普周一上午在Truth Social上发布了一篇长篇帖子,对放缓AI发展的想法表示反对:

"AI唯一需要的'控制'或'护栏'就是一位强大而聪明(高智商!)的总统,而美国正好拥有这样一位总统!特朗普政府已经阻止了AI'人士'做坏事或可能的坏事,比如达里奥(Anthropic!),他现在正假装成一个'完美的小天使'——我们将继续这样做!我们对这些公司已经拥有巨大的刑事和监管权力!针对AI和数据中心存在一场令人作呕的阴谋,唯一为此感到高兴的是中国。谁赢得AI,谁就赢得一切!我们在AI领域领先中国和所有其他国家,并将继续保持领先。阴谋论者、叛国者、卖国贼和泄密者,当心!感谢大家的关注!总统唐纳德·J·特朗普"

英伟达首席执行官黄仁勋在活动现场接听特朗普来电并使用免提功能时,特朗普表示"机器人不会接管一切",黄仁勋则表示:"我们要确保在美国的AI竞赛中,每个人都是赢家。每个行业、每家公司、每个州、每个人。"

美国副总统万斯表示,他觉得前沿AI科技公司"跑来政府这里恳求政府监管自己"这件事"有点奇怪",并补充说"这在我看来有点像是一种特洛伊木马"。他还提到总统曾说过"我们知道中国正在与美国进行一场长期的AI竞赛"。

众议院议长迈克·约翰逊周日在接受CNN记者杰克·塔珀采访时表示:"我认为所有这些平台的领导者和提供商……他们需要聚在一起,与我们坐下来,共同商定合适的平衡点。我们不能对此设置暂停期,因为中国会因此超越我们。这就是挑战所在。这需要在国家安全与确保模型安全的即时安全之间取得平衡。"目前尚不清楚这次会议是否会真正举行,或何时举行,但约翰逊表示他"明天"就愿意参加。

参议员伯尼·桑德斯表示他赞同《华尔街日报》专栏作家、前里根总统撰稿人佩吉·努南的观点,后者发表了一篇题为《为了人类,暂停AI》的文章。

前交通部长皮特·布蒂吉格在接受NBC新闻采访时表示:"国会袖手旁观,白宫毫无实际作为,这对美国人民和全世界来说都是极其危险的。我们需要设立保障措施,需要制定规则,需要设定限制,需要为失控的AI装上一个'紧急停止开关'。"

前白宫AI和加密货币事务负责人戴维·萨克斯在X平台发布的长文中表示:"达里奥写道我们需要'控制前沿AI节奏',山姆也表示同意。大家可能会对我的回应感到惊讶:那就去做吧。"萨克斯还告诉他们"别再假装你们需要别人的许可","别再假装放缓发展的动机纯粹是出于利他主义"。

前联邦贸易委员会主席丽娜·汗在X平台上发布的长文开头写道:"执法机构已经拥有对制造和发布危险、未经审查或存在缺陷产品的公司及其首席执行官提起指控的权力。我们不应让关于新法律制度的讨论,掩盖了现行法律中并没有针对AI的豁免这一事实——这一点我在任职期间曾多次在联邦贸易委员会强调过。"

前副总统卡玛拉·哈里斯在一条推文串中表示:"我们必须负责任地放缓前沿AI的发展节奏",并补充说"放缓发展对于确保AI服务于公共利益至关重要"。

前Meta首席AI科学家杨·勒昆在X平台的一条回复中表示:"早在2019年,达里奥就曾声称GPT2太危险以至于不能开源。我当时嘲笑过他们。现在大家也应该嘲笑他们。"

(更新,9月14日:新增更多声明。)

Q&A

Q1:达里奥·阿莫代伊提出的AI发展节奏控制方案包括哪些内容?

A:阿莫代伊提出三个步骤:设立能核实公司是否遵守安全承诺的第三方评估机构;民主国家前沿AI公司之间协调标准和限制;民主国家与威权国家政府就AI发展节奏进行全球协调。他强调这不意味着停止模型训练,而是确保有足够时间进行安全对齐。

Q2:特朗普对放缓AI发展持什么态度?

A:特朗普在Truth Social上明确反对放缓AI发展的想法,认为AI唯一需要的"护栏"就是强有力的总统领导,并指责这背后存在针对AI和数据中心的"阴谋",强调美国必须在AI竞赛中保持对中国的领先地位。

Q3:山姆·奥特曼是否支持放缓AI发展?

A:奥特曼表示同意阿莫代伊的观点,认为需要控制AI发展节奏,OpenAI也在讨论建立独立评估机构。但他强调"控制节奏"不等于"停止",进展只是会比原本可能的速度稍慢一些。

The Verge