AI安全问题正受到前所未有的关注。多年来，人工智能系统可能带来的风险——从网络攻击到超强说服力再到失控行为——曾只是科技爱好者和未来学家讨论的话题，如今却已进入权力走廊和寻常百姓的日常对话中。
事实上，这场讨论的范围早已超出传统安全议题，延伸至AI对经济生活和环境的影响，以及从对齐研究到政府监管等各种应对方案。
这场日益活跃的公共讨论来得恰逢其时，近期有关AI安全漏洞的新闻也印证了这一点。然而，讨论中仍缺失了一个关键环节。尽管公众辩论内容丰富，却始终未能聚焦于AI安全最重要的前提条件之一：宪政民主制度。
要理解民主制度为何对AI安全至关重要，不妨设想一个场景：我们已经建成了一套在所有常见意义上都"安全"的强大AI系统——它无法逃脱人类控制，不能发起网络攻击或制造生物武器，也无法驱动杀人机器人。现在，设想将这套系统置于两种截然不同的政治环境中：一种是民主社会，另一种是威权社会。
在一个健康的民主社会中——拥有自由公正的选举、受保护的公民自由和健全的法治，这样的宪政共和国里，AI能够带来巨大的益处，推动科学与医学进步，拓展教育机会，促进经济繁荣。在适当条件下，AI甚至能够强化民主本身，帮助公民表达声音，改善政策制定，使政府服务更加高效、更具问责性。
现在再看看威权社会的场景。这里的一切都会反转。AI会沦为政府监控与审查的工具，成为宣传机器，被用于政治打压和巩固统治。这并非凭空想象的场景——它已经在中国、俄罗斯、伊朗、委内瑞拉、多个海湾国家等地真实上演。
将这两种场景并列对比，揭示出一个根本性的真理：除非我们能够保障宪政民主与法治的未来，否则"安全的AI"根本不存在。如果你生活在威权统治之下，无论AI有多"安全"，你本人都不会安全。简言之，AI安全需要以政治自由为前提。
认清这一事实后，我们便能明白：必须扭转过去二十年来全球范围内民主制度的退步趋势，包括美国国内两党政府统治下宪政制约机制持续受到侵蚀的局面。
当然，维护民主一直是一项有价值的目标。而随着AI时代的来临，这一目标已变得愈发紧迫。
更复杂的是，AI本身也将给民主制度带来新的压力。随着AI开始影响就业，由此产生的经济不安全感可能会给各类煽动家创造机会。
AI引发的网络攻击等国家安全危机，将增加政府动用紧急权力的机会——而这种权力一旦被获取，便很少会被归还。随着AI融入行政部门的职能，传统的权力制衡机制可能会被打破，政治监控的风险也将随之上升。
从长远来看，如果AI取代了大多数工作岗位——经济学家丹尼尔·萨斯金德和安东·科林内克等人对此深感担忧——普通公民将面临失去对统治者的制衡能力的严重风险。要理解这一点，我们只需看看当今的产油国：那些不依赖对公民劳动征税的政府，往往会漠视这些公民的权利。
应对这些风险的第一步，应是更新现有法律体系：通过改革紧急状态法和监控法来限制行政权力，并缩小援引国家机密特权的情形范围，以确保正当程序得到遵守。
以美国为例，这意味着需要重新审视《国家紧急状态法》和《国际紧急经济权力法》，并堵住情报工作中的"数据经纪人"漏洞。随着行政机构开始运用AI，我们也应为国会和法院配备同样强大的AI工具，以确保监督能力能够跟上步伐。
这一原则并不新鲜。正如詹姆斯·麦迪逊所言："必须用野心来对抗野心"——只是如今这场博弈发生在数字环境中。
从更长远的角度看，为避免大规模的政治权力被剥夺，我们需要重振自治传统，让公民更直接地参与政策制定和政府监督。如果运用得当，AI本身或许也能提供帮助——让信息获取更便捷，帮助公民共同思考，成为数字时代的"市民大会"。
以这些方式巩固政治自由，本身就具有重要价值。而在今天，这同样是AI安全工作的一种形式。
那么，谁最适合推动这些必要的改革？政策制定者、公民组织和普通公民都必须参与其中。
但还有另一个关键角色：AI产业本身。尽管各大AI实验室愿意就具体政策问题发表意见，但大多数机构近来在民主议题本身上却保持了沉默。
过去一年中，多位AI行业领袖理所当然地强调了为军事和情报机构配备AI的必要性，以便民主国家能够在国际上保持竞争力。但这些同样的领袖，在关于国内民主健康状况的辩论中却明显缺席。
科技行业并非一直如此谨慎。2013年，苹果、谷歌、微软、Facebook、Twitter、雅虎、LinkedIn和AOL曾联合发表一封致总统和国会的公开信，指出政府的监控手段"已经过度倾向于国家权力，而偏离了个人权利——这些权利正是宪法所保障的"。
2018年，微软曾公开呼吁国会限制政府使用面部识别技术，并写道："我们必须确保2024年不会变成小说《1984》中的情景。"而就在2021年，包括Alphabet、亚马逊、苹果、Facebook、IBM、微软和Twitter在内的多家公司联合发表公开信，反对各州拟议的投票法修改，宣称："我们支持民主。"
然而，近来许多科技公司却选择了沉默。这可以理解——这些公司要向投资者负责，在当前环境下，公开表态可能会损害股东价值。
但这不应是故事的终点。各大AI实验室都宣称AI安全是其核心使命。如果它们真心如此，那么基于我前面阐述的理由，它们就有责任挺身维护基本的宪政原则，即便这会带来商业风险。
记者、研究人员和普通公民可以通过坚持不懈地指出安全与自由之间的联系，帮助这些企业认清这一责任。
AI行业之外的人们开始谈论AI安全，这是件好事。AI将影响每一个人，因此每个人都应参与到AI的建设和使用方式的塑造中来。
但我们需要将政治自由置于这场讨论的核心位置。我们需要建立一种公共意识：AI安全从根本上依赖于民主制度。唯有牢记这一点，我们才能避免AI带来的危险，并充分收获它可能带来的巨大益处。
马修·博特维尼克是即将出版的新书《AI与政治自由》的作者，同时担任耶鲁法学院高级研究员。他曾在AI行业担任多个研究职位，包括谷歌DeepMind，目前在Anthropic工作，但本文仅代表其耶鲁大学身份发表的个人观点。
Q&A
Q1：为什么说AI安全离不开民主制度？
A：因为同样"安全"的AI系统在不同政治制度下会产生截然不同的结果。在民主社会中，AI能推动科学进步、改善公共服务；但在威权社会中，AI很容易被用作监控、审查和政治打压的工具。所以无论AI技术本身多么"安全"，如果缺乏民主制度的保障，公民依然无法真正获得安全。
Q2：AI会对民主制度本身造成哪些威胁？
A：AI可能通过多种方式冲击民主：一是取代大量工作岗位引发经济不安全，为煽动性政治人物创造机会；二是AI引发的网络攻击等安全危机，会增加政府动用紧急权力的借口，而这类权力往往难以收回；三是AI融入行政部门后，可能打破传统的权力制衡机制，加剧政治监控风险。
Q3：目前AI行业在维护民主方面做了什么？
A：过去科技公司曾积极发声，比如2013年多家公司联合致信反对过度监控，2018年微软呼吁限制面部识别技术，2021年多家公司联合声明支持民主。但近年来，由于担心商业风险，许多AI公司在民主议题上逐渐保持沉默，这与它们宣称的"AI安全使命"存在一定落差。
