政府在制定政策时，通常会设置公众意见征集期。立法者长期需要从大量为影响政策而批量制造的虚假反馈中筛选真实意见，但他们大体上已经习惯识别这类内容。然而，有了人工智能之后，人们可以提交看起来十分真实的评论，这些内容更难被当作“背后没有真实个人的伪造品”而驳回。这只是AI在公共讨论中生成文本和表态、却找不到任何人为其负责的一种表现。
这一问题引起了麻省理工学院媒体艺术与科学教授、麻省理工学院建设性传播中心（CCC）主任德布·罗伊的关注。在发表于《原子科学家公报》的一篇题为《谁站在话语背后？》的新文章中，罗伊呼吁重新强调传播中的责任，主张即使使用AI来撰写文本，也必须有问责与“可回应性”。
建设更好的群体对话以产生更多公共信任，是CCC工作的核心部分。该中心与罗伊联合创办的密切关联非营利组织Cortico一起，在许多场景中帮助推动重要议题的群体讨论——包括公民会议、学校、审议性大会和私人组织——并使用包括AI在内的技术工具帮助发现评论中的主题等。但该中心在设计这一流程时，也让参与者能够在每个关键步骤检查并推翻技术输出。最终，每一条公共评论都由一个人负责。麻省理工学院新闻就这篇文章和该中心的工作采访了罗伊。
问：你指出了AI生成的文字背后缺乏问责这一问题。你最早是什么时候真正注意到这一点的？
答：这个问题在ChatGPT（由大语言模型驱动）发布时变得清晰起来。至于我与语言模型的个人渊源，我的博士研究探索的是我们现在或许可以称为PLM的东西——“简陋语言模型”，所以我对语言模型相当熟悉，也一直关注这一领域的快速演进。但ChatGPT跨过了一个转折点。两件事同时发生了变化：模型的深度及其知识，以及你与它交互的方式。
我开始着迷于寻找它能做到的事情的边界。我觉得无论我怎么努力伸展双臂去环抱它，都环抱不过来。我在麻省理工学院的终身教职申请建立在“语言 grounding”之上——即一个AI系统仅仅处理大量词语和其他符号是不够的。我相信，要理解词语的含义，实际上需要身体和生命经验作为这一过程的一部分。于是我重新研读自己曾经浸淫其中的AI哲学文献，它追问的是：大语言模型以极其先进的形式所代表的这类系统，与人类所从事的处理方式，根本区别究竟在哪里。我给自己的研究生做了几次演讲，试图论证：尽管AI看起来如此智能，它在种类上其实是不同的——但我没能说服他们。
于是我想，我知道区别在哪里，但我甚至难以说服自己那究竟是什么。这促使我问：“等一下：是否有人或某个东西站在这些话语背后，一个对人类所说的话负责的人？”这正是这台非凡的新语言机器所不具备的。
这些系统是否真正理解语言，目前仍有激烈争论。但即使你赋予它们你所愿意给予的全部理解力，它们仍然缺乏“立场”。责任无法停留在一个物件、一个软件系统上，因为它没有什么可失去的。
问：你在《公报》文章中举了一些公民反馈论坛的有趣例子，看起来是真实的人在说话，实际上却是一大堆AI生成的评论。你是如何在社会中找到这些“脱轨”的其他例子的？
答：ChatGPT发布后，我开始听到政府内部负责审查拟议规则公众评论的人的一种担忧：怀疑并非所有评论都是人写的。
我的反应是：这会使这一公众反馈渠道失去合法性。那是几年前的事了，但现在所有人都知道这正在发生。公众评论是民主的支柱。你不能直接就把一条新规则落实下去。在规则强加于人之前，人们需要有发言权，并感到自己被倾听。如果跳过这一步，人们就不会接受规则具有合法性。这就是为什么这一程序被嵌入美国的运作方式之中。而这根支柱刚刚裂开了，在我看来，到现在它已经倒塌了。有人注意到吗？我的感觉是，接收这些评论的人已经悄悄调整了他们给予公众评论的权重。它从来都不完美，但现在，它的许多价值正在被冲刷掉。
我在文章开头举了这个例子：2017年，美国联邦通信委员会就其废除网络中立规则的提案收到了超过2200万条公众评论，纽约州总检察长后来发现其中近1800万条是假的。正如我在文章中写的，“那场欺诈之所以被抓住，是因为它留下了指纹：模板化文本、重复的措辞。”但大语言模型抹掉了指纹。现在每条评论都可以流畅且各不相同，审查者再也无法分辨哪些表达的是真实的人形成并愿意为其负责的观点。
如果你有足够多虚假的东西——没有任何有切身利害的人真正站在其背后的话语——它就会让你对真实的东西变得麻木。这会反馈到公众那里，人们会意识到：如果我花时间表达自己，他们根本不再倾听了。
问：你能再谈谈你的观点吗——我们需要有“立场”、愿意对所有文本片段承担“问责”的人，即使这些文本是由AI生成的？
答：在法律体系中，“立场”是一个正式概念：有时案件不被受理，是因为提起诉讼的人没有诉讼资格。但在非正式场合，我们一直在使用这个词。我并不想把日常生活中的“立场”正式化。相反，我在问：从法律术语借用而来的这个非正式含义，为什么现在需要我们更加关注？在新英格兰，想想开放式镇民会议：站起来发言的人通常被期望具有“立场”，即作为该镇居民、对所作决定有切身利害。如果是一个从州内其他地方或外州开车来的陌生人，大家都会想：等等，那是谁？他不是本地人。总的来说，出现在一个你实际上没有立场的地方，总归有足够的摩擦、代价也足够高，所以这种情况不常发生。
现在，大语言模型和当前的数字网络环境瓦解了这些边界。我们一直想当然地认为，如果某人有发言权，那是因为他有立场。他有被倾听的某种依据。我们需要关注这一点，真正思考如何设计系统，让有立场的人成为被倾听的人。
我试图发展的另一个概念是“可回应性”。它在法律中没有正式规定，但已融入法律程序。如果你有作证的资格，你就在那里，准备好接受交叉询问。你必须能够为自己的话作出回应。如果你对某人提出具体指控，你必须愿意用事实来支撑。立场与可回应性必须同行：被倾听的权利伴随着为自己的话作出回应的义务。
这并不意味着每个人都必须在所有事情上署名。我在《公报》文章中写道，“隐私与可回应性并非对立。……一个机构可以验证一个人的身份并为其言论背书，而不必曝光此人。”要表达一种观点，你只需要表明说话的是一个独立的、合格的人。而一项指控要求更多：某个受信任的人，比如记者，必须能够知道说话者是谁。正如我所说：“披露义务应随权力而增加，身份保护应随脆弱性而增加。”
这一切都不意味着AI帮不上忙。AI可以在问责链条内部完成大量工作——起草、总结、发现模式。如果某个对某项规则有切身利害的人使用AI起草评论，将其采纳为自己的意见，并准备好为此作出回应，那么在这种情况下这是正当的。AI不能做的是锚定这条链条。链条末端必须有一个人站在话语背后。
在文章中，我提出了将这一点内置其中的四条设计原则：“可归属的作者身份”、“可分解且可检查的流程”、将“来源信息作为基础设施”使用，以及“扩大而非集中立场”。正如我所写，“核心规则是：允许自主，但不允许无问责。”而最重要的指标不是通过移除人类所获得的效率提升，而是AI将多少人置于能够为自己所为作出回应的角色中。
问：建设性传播中心的文件中有一个说法，我们需要以“信任的速度”而非“技术的速度”推进。这意味着要真正思考如何构建这些系统。你能再多谈谈这句话对你的意义吗？
答：我是在威斯康星州阿普尔顿学到这句话的，当时我和长期合作者、威斯康星大学的凯瑟琳·克莱默在一起，与当地组织“跨越分歧的对话”的社区组织者交谈。他们有数百人参与。我以为自己开发的正是同样目的的技术工具，看到它非常兴奋。我问那个组织的一位负责人：“你多快把它规模化？”他停顿了一下，然后说：“以信任的速度。”
我最初把这理解为“慢”。后来我意识到他是在说：对你来说慢，因为你还没有赢得我们的信任。而我此后学到，当你确实拥有信任时，事情可以进展得很快。所以引入技术实际上是一个参与的过程。说“相信我们，我们这样做是因为我们认为这对你有好处”是行不通的。人们会转向他们已信任的人问：“这对我们好吗？”如果那个人说“好”，事情就能快速推进。
看看AI与社会交汇处正在发生的事：AI的速度与民主的速度运行在不同的时钟上。与从事民主实践的人交谈，他们会说，“AI必须慢下来，因为民主无法那么快。”与AI领域的人交谈，他们会说，“AI不能慢下来，民主需要加速。”如果我们不能让这两个时间尺度同步，我们就会走向一种脱轨局面：AI的部署速度快于民主进程能够回应的速度，决策在没有公众参与的情况下作出。这已经开始发生了。
问：我们需要有人积极行动来建设对话，并弄清楚技术工具如何与之互动。在建设性传播中心，你们已经对中心的“真实对话”计划做了几轮迭代，以建设公民对话，还在学校环境中开展了“青年之声”计划，目前正在推进“新社会形态”项目。你能简单谈谈这些吗？
答：“真实对话”代表着这项工作最悠久的一条主线。我们工作的一大重点一直是开发更好的相互倾听方式。我们创造一个始终规模很小的情境——这里小即是美——让人们愿意真诚分享。我们有知情同意架构和技术来揭示更大的模式，然后将其分享出去。我们已在全国数百个社区这样做过。在更近的地方，我们通过realtalk@MIT项目把同样的方法带到麻省理工学院校园，并得到校长办公室和教务长办公室的支持，帮助我们的社区建立围绕对话与倾听的文化。
我想强调的第二点是，我们越来越多地致力于审议过程和公民大会，以及如何让它们更易参与。如果一群高中生说，“我们的手机政策确实有问题”，该怎么办？假设你想举办一场大会，把学生、教师和管理者聚在一起，不只是倾听人们的关切，还要提出政策建议。我们就这么做了。中心与纽约市一所高中合作，技术帮助人们揭示他们的偏好与分歧，并相互倾听。
我们也在把可回应性内置到技术中。我们团队博士生卡桑德拉·奥弗尼开发的一个名为VoiceTrace的原型，把每一条输出陈述——倾听过程中所听到内容的摘要，或审议产生的建议——与背后的具体声音联系起来，使任何主张都能追溯回它来自的对话。
“新社会形态”项目涉及世界各地工作场所正在出现的一种非常有趣的模式，当然包括与我们相关的那些。AI是赋予个人能力的非凡工具，但用我们在谷歌体验研究所的一位合作者的话说，人们正在“挖隧道”。他们深入其中，用AI打磨出精细的想法，但当他们浮出水面时，自己的想法已与队友分道扬镳。所以试图与AI协同工作的群体和团队面临着人的协调问题。
我们将扩大与谷歌已开始的初步工作，因为人们对集体沟通、信任以及协作中的人际互动有浓厚兴趣。
那么这是公民情境吗？它是工作场所，但工作场所也是公民空间。它们管理着人们的日常生活，是我们许多人培养公民技能、学习跨越差异合作的地方，而且公民生活有着植根于共同劳动的悠久传统。我们都是试图彼此互动的人类。这些是同样的问题。路易斯·布兰代斯法官曾用“工业民主”一词来概括这一点。当工作场所缺乏某些类型的公民程序和文明——这两个词有着有趣的关联——劳资纠纷过去常常演变为暴力。程序正义、调解人以及人们相互倾听，在工作场所同样必要。归根结底，一切都关乎人。在彼此身上听见人性，是民主所依赖的，也是社区和组织运转所同样需要的。
Q&A
Q1：德布·罗伊是谁？他提出了什么观点？
A：德布·罗伊是麻省理工学院媒体艺术与科学教授、麻省理工学院建设性传播中心主任。他在《原子科学家公报》发表《谁站在话语背后？》一文，主张即使文本由AI生成，也必须有真实的人承担责任，即具备“立场”与“可回应性”。
Q2：AI生成的公众评论为什么难以识别？
A：过去批量制造的虚假评论会留下模板化文本、重复措辞等“指纹”，因此容易被查出。大语言模型抹掉了这些指纹，现在每条评论都能流畅且各不相同，审查者无法分辨哪些表达的是真实的人形成并愿意负责的观点。
Q3：VoiceTrace是什么？它有什么用？
A：VoiceTrace是麻省理工学院建设性传播中心博士生卡桑德拉·奥弗尼开发的原型工具，它把每一条输出陈述——例如倾听过程的摘要或审议产生的建议——与背后的具体声音关联起来，使任何主张都能追溯到其来源对话。
