Anthropic近日宣布将开始为其Claude聊天机器人生成的文本和文件添加水印,这一举措迅速引发部分AI用户的强烈反弹,甚至有人宣布取消订阅以示抗议。

然而此举并非出于Anthropic的主动意愿,而是欧洲新出台法规的强制要求。为避免法律纠纷和潜在罚款,Anthropic决定为Claude输出的内容添加不可见的数字签名,该签名日后可被解码识别。

反弹浪潮来势汹汹,令人费解。尤其是在AI生成的图片和视频已难以与真实内容区分的今天,水印和标签普遍被视为AI公司应承担的最基本责任。那么,为何会有人认为AI生成的文本应当被排除在透明度要求之外?

文本与图像、视频确实存在差异。用AI润色语法或起草邮件回复,似乎远不如用ChatGPT制作整张活动宣传单或用Midjourney生成视频片段那般严重。基于文本的AI工具在职场中使用尤为普遍,许多雇主也在积极推动AI应用。

但正因如此,才更需要守住透明度的底线:用了AI,就应该说明。如果不想让人知道自己用了AI,或许从一开始就不该用。

反对Claude水印的声音,部分来自铁杆AI支持者。他们的逻辑大致是:"我一直在用AI,不应该每次都要声明。"换言之,他们认为人们理所当然地会假设其工作中包含AI的参与。

这种立场虽可理解,却与现实脱节。根据皮尤研究中心今年6月的报告,美国成年人中仅有4%"频繁"使用AI聊天机器人。即便在某些行业(如软件工程)中AI使用已相对普遍,加上一句"经AI辅助优化"又有何妨?

近年来,为AI生成图片和视频添加水印一直是AI讨论中的核心议题,原因显而易见:如今越来越难以分辨一张照片究竟是摄影师用相机拍摄的,还是AI生成的。CNET今年2月的调查显示,51%的美国成年人希望社交媒体上的AI生成内容有更清晰的标注。将水印机制延伸至文本,是顺理成章的下一步。

对AI生成文本添加隐形标签,正如Anthropic所提议的,或许能一劳永逸地终结"这是不是AI写的"这类无休止的争论。届时,我们终于可以自由使用破折号,而不必担心被误认为是AI在作祟——破折号不过是一系列所谓"AI特征"中最近流行的一个例子。能有一个确凿的来源证明,岂不更好?

内容溯源技术当然并非无懈可击。谷歌的SynthID(Anthropic采用的方案与之类似)存在已知局限。例如,若你撰写了一份报告并用AI翻译成另一种语言,系统可能会将其标记为AI生成,即便主要工作由你完成。但这只意味着我们需要改进这项技术,而非放弃它。

值得关注的是,还有一个群体的反应或许更为微妙——"沉默的AI用户"。他们并非每天使用AI,只是偶尔借助AI检索信息或处理工作。他们对ChatGPT并不陌生,但也没有在调度一支智能体大军。他们也知道数据中心存在环境问题,AI会出错,但这还不足以让他们停止使用AI。

2024年Slack的调查显示,48%的白领表示不愿向上级透露自己使用了AI;更有57%的人承认曾隐瞒AI使用情况。生成式AI在职场中或许已逐渐正常化,但距离被普遍接受还有相当距离。

这引出一个更深层的问题:人们真的不愿在工作中附上AI声明,还是害怕被贴上"AI信徒"的标签?

自2022年ChatGPT问世以来,美国公众对AI的态度已发生显著变化。40%的美国成年人认为AI将对社会产生长期负面影响。深度伪造、AI垃圾内容和虚假信息的担忧从未消散。来自作家、艺术家和娱乐公司的诉讼接连涌现,指控AI公司非法利用人类创作的海量内容训练模型,并生成廉价仿品。(披露:CNET母公司Ziff Davis已于2025年对OpenAI提起诉讼,指控其在训练和运营AI系统过程中侵犯了Ziff Davis的版权。)

数据中心的负面形象也在拖累AI的公众形象。盖洛普民调显示,70%的美国成年人反对在自家附近建设数据中心,其中48%表示强烈反对。颇具讽刺意味的是,AI赖以生存的数据中心,反而成为驱动消费者对AI产生反感的主要因素之一。

或许铁杆支持者的判断不无道理:终有一天,AI将成为我们日常工作流程中默认的一部分。但那一天尚未到来。在当下,无论是一篇评论文章、一份工作报告,还是一部院线大片,诚实说明创作过程都比以往任何时候都更加重要。我们有责任彼此坦诚,而标签正是实现透明的方式之一。

我们不应在AI披露问题上选择性表态。既然用了AI,就应该能够坦然承认、解释并捍卫这一选择。如果做不到,那或许从一开始就不该用AI。

Q&A

Q1:Anthropic为什么要给Claude的输出内容添加水印?

A:Anthropic添加水印并非出于自愿,而是欧洲新出台法规的强制要求。为了避免法律纠纷和潜在罚款,Anthropic决定为Claude生成的文本和文件添加不可见的数字签名,该签名未来可被解码识别。这种水印方案与谷歌的SynthID技术原理类似。

Q2:Claude水印会影响用户的正常使用吗?

A:目前这种水印是不可见的,用户在日常使用中感知不到。但技术上存在一定局限,例如若用户用AI将自己撰写的报告翻译成其他语言,系统可能会将整篇内容标记为AI生成,即便核心工作由人完成。Anthropic的方向是持续改进这项技术,而非放弃。

Q3:为什么那么多人不愿意承认自己使用了AI?

A:根据2024年Slack的调查,48%的白领不愿向上级透露自己使用了AI,57%曾主动隐瞒。原因是多方面的:一方面,生成式AI在职场中尚未被普遍接受;另一方面,40%的美国成年人认为AI对社会有长期负面影响,深度伪造和AI滥用的担忧持续存在,许多人可能担心被贴上"AI信徒"的标签。

CNET