Anthropic近期决定对Claude的输出内容添加水印——在聊天机器人生成的文本中嵌入不可见代码,以标记其为AI生成内容。
此举旨在满足欧盟《AI法案》透明度准则的要求。该准则规定,科技公司必须以计算机系统可识别的方式,对AI生成或编辑的内容进行标注。尽管欧洲监管机构对此表示满意,但部分AI用户却明显持反对态度。
在Reddit上,不满情绪已有迹可循,当然也有用户持不同看法。其中一篇措辞激烈的帖子来自名为visionode的用户,该账号注册仅三周。在这位用户看来,新的水印机制是一场专门针对无辜聊天机器人用户的强权阴谋。
visionode的核心论点是:尽管熟悉技术的Claude用户可以通过改写或借助其他AI服务处理输出内容来规避水印,但普通用户将难逃被识别的命运。
"谁会被抓住?是你。是那个用Claude重新整理了一段话的学生,是请AI总结两百页文字记录的记者,是因创作瓶颈而向AI寻求同义词的作家。这些人最终都会在额头上被打上数字烙印。"
不过,这些例子本身并不站得住脚。一位记者让AI总结两百页文稿,并不会因为附在摘要上的水印而受到任何影响——除非他将该摘要原封不动地复制粘贴进文章,而那显然是不道德的行为,不应该发生。
同样地,学生若将Claude重新整理后的段落直接复制粘贴进作业,也是不诚信的行为。
其他Reddit用户对该帖子的愤慨也并不买账。
"看看这家伙,"一位用户仅此一评。
另一位则建议原帖作者"深呼吸一下"。
visionode并非唯一的不满者。另一位用户将水印称为"不道德"且"令人厌恶"的行为,并认为自己才是完成大部分工作的人,而Claude只是一个辅助"工具"。
"我提供了指令、背景、决策和无数次修改,Claude只是工具。如果Claude开始给它生成的代码或其他内容打水印,它究竟在为什么邀功?"这位用户写道。
然而,质疑的声音再次汹涌而来。
"它并不是在邀功,"一位用户回怼道,"这是为了在AI生成内容可能引发风险的场景中,能够对其进行识别和追踪。"
"这哥们儿连抱怨Claude的帖子都是用Claude写的,"另一位用户调侃道。
也有批评者避开了受害者叙事,提出了相对深刻的质疑。
一位用户指出了其中的双重标准:一个靠大量抓取他人作品训练而成的AI,却反过来给输出内容打上水印,这本身存在明显的讽刺意味。"我认为这是一个相当令人不安的方向,"该用户表示,"我不用Claude写东西,但考虑到众多前沿模型获取训练数据的方式,一个给你的作品打水印的AI实在讽刺至极。"
总体而言,用户们倾向于支持水印机制,认为这是追踪算法生成内容的合理手段。"真的没有任何充分的理由反对这个做法,"另一个帖子中的用户写道,"唯一不希望有水印的理由,就是想对别人撒谎。"
Q&A
Q1:Anthropic为什么要给Claude的输出内容添加水印?
A:Anthropic推出水印机制,是为了满足欧盟《AI法案》透明度准则的合规要求。该准则规定,科技公司必须以计算机系统可识别的方式,对AI生成或编辑的内容进行标注。水印以不可见代码的形式嵌入文本,普通用户无法察觉,但可被系统检测识别。
Q2:Claude的水印机制对普通用户有什么实际影响?
A:对于将Claude输出内容直接复制粘贴使用的用户影响较大,例如将AI生成文字原样提交作业或发表文章的学生和作者。对于仅将AI作为辅助参考、自行改写或二次加工内容的用户,影响相对有限。部分技术熟练的用户也可通过改写或其他工具规避水印识别。
Q3:Reddit用户对Claude添加水印这件事整体持什么态度?
A:Reddit上的用户意见分歧明显,但总体上支持水印机制的声音占多数。反对者认为水印侵犯用户权益或存在讽刺意味;而支持者则认为,水印是追踪AI生成内容、防止虚假信息传播的合理手段,并指出反对水印的主要动机往往是为了掩盖AI使用行为。
