微软总裁布拉德·史密斯呼吁对AI进行紧急监管，他的论点是，像牛奶和洗衣机这样的消费品都比开发人工智能的公司受到更严格的监管。
在近期一档BBC播客节目中，史密斯将AI称为“武器和工具”，称其正在使全球网络安全面临风险，并表示建立全球安全规则的“时刻已经到来”。
史密斯还表示，英国而非美国或欧盟，最适合主导全球安全规则的制定。英国于2023年成立的AI安全研究院，能够在美国前沿实验室的主要模型部署之前获得访问权限，并已迅速成为AI安全测试领域的领导者。
然而，这一角色近几周受到了威胁，美国总统唐纳德·特朗普警告“全球主义”组织，他声称这些组织正在干预美国企业。据报道，上个月他要求Anthropic和OpenAI不要向英国测试人员提供新模型，但AI安全研究院周一确认，其仍能够访问并测试最新模型。
尽管受到总统的阻力，史密斯仍然认为，英国能够以美国无法做到的方式对AI进行监管。
他对BBC表示：“在华盛顿特区，人们看待英国和伦敦的方式，与看待布鲁塞尔的方式不同，这是一种优势。”
他的言论正值科技领袖纷纷发声之际，包括Anthropic的达里奥·阿莫代伊和OpenAI的萨姆·奥特曼，都呼吁放缓AI发展速度，原因是此前发生了多起AI智能体失控的事件。
上个月，特朗普在白宫接待了包括OpenAI、Anthropic、英伟达、AMD、SpaceX、Meta和谷歌在内的科技公司领导人，讨论AI安全问题。他们签署了一份“具有道德约束力”的文件，同意与“独立审计机构”合作，评估其AI模型的安全性和能力。
史密斯表示，这份文件是“良好的一步”，但距离真正必要的监管还有差距。他指出，自愿自我监管的问题在于，“优秀的公司”会遵守规定。
他说：“真正需要担心的是那些不那么负责任的公司。”
史密斯列举了他希望建立的几项AI安全规则，例如要求企业在其系统遭到失控AI智能体入侵时，负有法律义务发出警报。他似乎也支持AI实验室在产品发布前需经过外部评估机构批准，并对设置“终止开关”持积极态度，以便在人类失去对AI的控制时暂停或减缓其运行。
史密斯说：“让我们平静地交流，也许甚至是轻声细语，但要坚定，开始把大家团结起来。我希望这是我们公司能够发挥的作用。我也希望这是英国作为一个国家能够发挥的作用。”
Q&A
Q1：微软总裁布拉德·史密斯为什么呼吁对AI进行监管？
A：他认为像牛奶、洗衣机这样的消费品都比开发AI的公司受到更严格的监管，AI既是“武器”也是“工具”，正威胁全球网络安全，因此建立全球安全规则的时刻已经到来。
Q2：为什么说英国最适合主导AI监管？
A：史密斯认为英国的AI安全研究院能在美国前沿实验室模型部署前获得访问权限，已成为AI安全测试的领导者，且华盛顿对英国伦敦的态度不同于对欧盟布鲁塞尔，这让英国在监管上更具优势。
Q3：科技公司在白宫签署的AI安全文件有什么内容？
A：包括OpenAI、Anthropic、英伟达等公司的领导人与特朗普签署了一份“具有道德约束力”的文件，同意与独立审计机构合作评估AI模型的安全性和能力，但史密斯认为这仅是良好的一步，还不足以构成真正必要的监管。
