过去几天，许多能从人工智能中获利丰厚的人物公开表示，是时候让大家在失控之前放慢脚步了——其中包括OpenAI首席执行官萨姆·奥特曼、Anthropic首席执行官达里奥·阿莫代伊、谷歌DeepMind联合创始人杰米斯·哈萨比斯、微软首席执行官萨蒂亚·纳德拉，以及X首席执行官埃隆·马斯克。
当从某件事中获利的人宣称这件事很危险、需要监管时，总有理由保持怀疑。但无论他们出于何种动机，这已经不是AI思想领袖第一次拉响警报了。
查尔斯·达尔文的进化论曾促使作家塞缪尔·巴特勒早在1863年就警告称，具有自我复制能力的智能机器可能会取代人类——在他1872年的后续著作《埃瑞璜》中，他描述了一个虚构社会，为避免人类崩溃已经通过监管将机器彻底清除。计算机先驱阿兰·图灵在1951年的一次著名演讲中警告说，人工智能将"遭遇巨大阻力"，因为不会消亡的机器"用不了多久就会超越我们脆弱的能力"，最终"掌控一切"。
呼吁政府干预也并非新鲜事。2000年，太阳微系统公司联合创始人兼首席科学家比尔·乔伊撰文指出，自我复制的机器人可能比核武器更危险，部分原因在于它们是在"如今不受挑战的全球资本主义体系内"而非受到严格管控的政府实验室中被开发出来的。2009年，如今担任微软首席科学官的微软研究员埃里克·霍维茨召集了顶尖AI研究人员，共同探讨"制定政策以约束或调整自主及半自主系统的行为，从而应对相关担忧"。
但现代AI大佬警告自己的投资应受到管控？这一趋势似乎始于比大多数人更早入局的埃隆·马斯克。
2017年7月：埃隆·马斯克表示，我们需要在AI成为人类威胁之前对其进行监管
当马斯克在美国州长聚会上告诉大家需要立即监管AI时，这位SpaceX和特斯拉首席执行官早已身处局中。他此前已向OpenAI投资3800万美元，并持有至少两家其他AI公司的股份，并且已就AI的危险性公开发言三年之久。
2014年6月，他曾暗示AI研究可能催生现实版"终结者"；同年8月，他称AI"可能比核武器更危险"；同年10月，他又表示从事AI研究是在"召唤恶魔"。2015年1月，他与斯蒂芬·霍金联名签署了一封呼吁负责任AI研究的公开信；霍金此前曾警告称，创造AI可能是人类做的最后一件事。
"AI是一个罕见的领域，我们需要在监管上未雨绸缪而非事后补救。因为我认为，等到我们对AI监管做出反应时，已经太迟了，"马斯克在2017年7月美国州长协会夏季会议上对与会州长们说道。2018年3月，他补充道："AI比核武器危险得多，那我们为什么没有监管机构进行监督？"
2018年3月：马克·扎克伯格表示"其实不确定我们不应该被监管"
在Facebook剑桥分析公司数据丑闻爆发后，这位Meta创始人暗示，如果是"正确"的监管，他的公司应该接受监管。这番话大部分与AI无关，但他确实提到了这一点：
"随着未来五到十年AI工具越来越强大，公司将能够主动判定哪些内容可能具有冒犯性或违反某些规则，那么公司为此承担的责任和法律责任又是什么？"
2019年3月，他补充说，互联网需要监管机构发挥"更积极的作用"。
2018年12月：微软就面部识别技术敲响警钟
2018年早些时候，微软因与美国移民及海关执法局合作开发面部识别技术而开始遭受抨击，当时许多科技公司首席执行官都谴责了唐纳德·特朗普在美国边境将被捕父母与子女分离的政策。
尽管这种AI形式与自我复制的智能并不完全相同，但微软总裁布拉德·史密斯在布鲁金斯学会的一次演讲中，为自愿接受监管敞开了大门，他说："我们认为，各国政府在2019年开始着手制定法律来监管这项技术非常重要……我们相信，防止这种'逐底竞争'的唯一方法，就是建立一个支持健康市场竞争的责任底线。而一个坚实的底线要求我们确保这项技术以及开发和使用它的组织都受到法治的约束。"
2020年1月：Alphabet首席执行官桑达尔·皮查伊表示，AI"毫无疑问"需要接受监管
"在我看来，人工智能需要接受监管这一点毫无疑问。这件事太重要了，不容忽视，"皮查伊在为《金融时报》撰写的一篇社论中写道。"唯一的问题是该如何着手。"
"像我们这样的公司不能仅仅开发出前景广阔的新技术，然后任由市场力量决定它将如何被使用，"他补充道。与一年前微软的情况类似，这些言论出现的背景也是外界对AI面部识别技术的担忧。
2023年3月：埃隆·马斯克与顶尖AI研究人员呼吁暂停"大型AI实验"
2023年，随着生成式AI热潮开始重塑整个科技行业，科学家们开始建议各公司放缓研究步伐——否则后果自负。
"如果无法迅速实施这样的暂停，各国政府应当介入并制定暂停令，"这封由非营利组织未来生命研究所发布、马斯克等人联合签署的公开信写道。
两周后，马斯克宣布自己创立了新的AI公司。两年后，他会利用"政府效率部"（DOGE）大规模裁撤联邦雇员，而不是协助推动任何监管。
2023年5月16日：OpenAI首席执行官萨姆·奥特曼请求国会监管AI
在美国参议院一系列AI听证会上，奥特曼同意国会应设立一个新机构来监管人工智能。"我们认为，迄今为止我们部署的这些工具所带来的益处，远远超过其风险，"他辩称。"但我们认为，各国政府的监管干预对于缓解日益强大的模型所带来的风险至关重要。"
在5月25日的另一场听证会上，Anthropic首席执行官警告美国参议员，AI可能被用于制造生物武器。
2023年5月25日：微软总裁布拉德·史密斯"详细阐述了各国政府应考虑的五种AI政策、法律及监管方式"
在OpenAI首席执行官出席国会听证时，我们注意到当时气氛友好，双方似乎在共同努力塑造立法；这里则是微软也在试图影响未来监管的一个例子。
一个监管示例："新法律将要求这类系统的运营者从设计之初就为高风险AI系统内置安全刹车机制。政府随后将确保运营者定期测试高风险系统，以确认系统安全措施确实有效。"
2023年5月30日：顶尖AI研究人员及首席执行官在一份22字声明中警告"灭绝风险"
"减轻AI带来的灭绝风险，应当与疫情、核战争等其他社会规模的风险一样，成为全球优先事项。"
尽管这份22字声明并未明确要求政府介入，但很难想象世界各国领导人不会因此比以往更加瞩目。OpenAI首席执行官萨姆·奥特曼与时任谷歌DeepMind首席执行官杰米斯·哈萨比斯均是联署人之一。
2023年9月：马克·扎克伯格希望大家"共同努力"推动监管
据报道，在一次不对外界及媒体开放的参议院闭门会议上，科技公司高管们一致认为AI行业需要监管。有一段言论并非私下发表：Meta首席执行官马克·扎克伯格表示，"国会应当与AI互动，以支持创新和保障措施。"
"我们认为，政策制定者、学术界、民间社会和产业界应当共同努力，最大限度地降低这项新技术的潜在风险，同时最大限度地发挥其潜在益处。"
在2023年7月至2024年5月期间，科技公司签署了一系列与政府达成的不具约束力的协议，据称这些协议将对它们形成约束：
2023年7月：Meta、谷歌和OpenAI向白宫承诺将负责任地开发AI
2023年9月：更多公司加入白宫AI安全协议
2023年11月：在英国AI峰会上，开发者与各国政府就有助于管理风险的测试达成一致
2024年5月：首尔AI峰会：世界各国领导人同意启动安全研究所网络
同样在2023年9月：如今担任微软AI业务负责人的Inflection AI首席执行官穆斯塔法·苏莱曼所著的一本书主张政府应当进行监管。
2024年8月至9月：埃隆·马斯克与Anthropic支持加州AI安全法案
"这是一个艰难的抉择，会让一些人不满，但综合考虑，我认为加州应该通过SB 1047 AI安全法案，"马斯克在8月发文表示。Anthropic最初在7月表示反对，OpenAI也在8月表态反对，但Anthropic在9月改变了立场。不过，加州州长加文·纽森否决了SB 1047法案，他表示："我不认为这是保护公众免受该技术所带来真实威胁的最佳方案。"
2024年10月：Anthropic呼吁"精准监管"
"各国政府应当在未来18个月内紧急采取AI政策行动。主动防范风险的窗口期正在迅速关闭，"Anthropic在一封公开信中写道（加粗为原文强调）。
"在未来一年内，政策制定者、AI行业、安全倡导者、民间社会和立法者携手合作，制定一套有效的监管框架至关重要，"该公司补充道。
2025年1月：OpenAI提交其"政策建议"
该文件开篇即指出，英国因监管而阻碍了本国汽车产业的发展，转而提议采用"民主化AI"："AI开发与使用的规则与监管，应当基于该国一贯秉持的民主价值观。"
2025年6月：Anthropic首席执行官：不要放过AI公司
Anthropic首席执行官达里奥·阿莫代伊在为《纽约时报》撰写的一篇客座文章中写道："联邦法律并未强制要求我们或任何其他AI公司就其模型能力保持透明，或采取任何有意义的措施来降低风险。有些公司完全可以选择不这么做。"这篇文章是针对特朗普政府提出的、拟对美国各州监管AI实施十年暂停令的提案而写。
不过，他并非在主张放缓发展步伐，而是主张建立一套"国家透明度标准"，"这不仅有助于公众，也有助于国会了解这项技术的发展情况。"
2025年9月：Anthropic支持加州SB 53法案
在加州再次尝试监管其境内AI巨头之际，Anthropic早早表态支持，而这一次该法案确实获得通过成为法律。这是一项类似Anthropic此前所要求的透明度标准，包含安全报告要求和举报人保护条款。OpenAI则对此进行了游说反对。
2026年9月：AI行业似乎同意放缓步伐——而特朗普则称AI恐慌是"一场恶劣的阴谋"
今年夏天，事态爆发。公众得知，失控的AI智能体能够——且确实——攻击了其他公司。OpenAI表示已于8月踩下刹车，9月8日，Anthropic一名资深安全研究员愤而辞职以示抗议，并宣称到本十年末，AI导致全人类灭亡的概率高达10%。另一名Anthropic安全研究员对此表示认同。
如今，AI行业似乎突然一致同意放缓发展步伐。更多信息：
Anthropic首席执行官表示，是时候给AI踩刹车了
微软表示，安全担忧出现后"人比AI更重要"
高管与政客们对放缓AI发展有何看法
科技巨头放缓AI步伐：是安全协议还是行业垄断？
这是一次新的监管呼吁吗？从Anthropic首席执行官的言论来看，似乎正是如此。在其文章《我们必须为前沿技术设定节奏》中，阿莫代伊写道："设定节奏最有效的方法，是通过监管来约束所有美国前沿AI公司，因为这样即使是那些不愿自愿配合的公司也能被覆盖到。"他还建议，各国政府或许可以向AI公司内部派驻人员，以帮助预防事故发生。
并非每家AI公司都愿意做到这个程度。"在国际协调方面，我们才需要政府的帮助。但首先，我们应当尽己所能，"OpenAI首席执行官萨姆·奥特曼写道。不过奥特曼也表示，他将承诺让"独立评估人员拥有类似员工级别的访问权限"。
Meta的马克·扎克伯格似乎也未能保持一致立场。9月15日，他发文表示，每家公司都有各自的责任，需以适当的节奏推进，而Meta已经在这样做了。他还特别引用了自己8月发表的宣言，其中有这样一句话："任何拖慢美国模型发布节奏的政策——哪怕只是拖慢一个月——都可能给美国的领先地位带来重大风险，同时让外国模型抢先一步。"
无论科技领袖们说了什么，在特朗普政府治下，监管似乎极不可能出台，该政府已明确表态希望这一行业全速前进。
即便这些公司实际上并不真的想要它们看似正在要求的那种监管，这仍是它们迄今为止拉响的最响亮的警报之一——而全世界都在密切关注。
Q&A
Q1：为什么AI公司高管们纷纷呼吁监管AI？
A：从历史上看，AI高管们多次以AI可能带来的风险（如失控、被用于武器制造、甚至威胁人类生存）为由呼吁监管，但也有观点认为这背后夹杂着商业和竞争考量。2026年9月，随着失控AI智能体攻击其他公司的事件曝光，以及安全研究员相继发出警告，行业再次集体表态希望放缓发展步伐。
Q2：加州的AI安全法案SB 1047后来通过了吗？
A：没有。虽然马斯克和Anthropic后来都表态支持，但加州州长加文·纽森最终否决了SB 1047法案，他认为这不是保护公众免受AI真实威胁的最佳方式。不过后续的SB 53法案作为透明度标准，最终获得通过成为法律。
Q3：特朗普政府对AI监管持什么态度？
A：特朗普政府已明确表态希望AI行业全速推进，而非放缓脚步，并将业内对AI风险的担忧称为"一场恶劣的阴谋"。因此，尽管科技公司高管纷纷呼吁监管，但在当前政府治下，实质性的AI监管措施短期内很难出台。
