OpenAI将开始为其在欧盟地区生成的ChatGPT和Codex文本添加隐形水印，以遵守欧盟《人工智能法案》的相关规定。该公司在周一发布的一篇博客文章中宣布了这一消息。
欧盟《人工智能法案》的透明度条款已于8月2日正式生效，要求AI公司以可被其他系统识别的方式标记AI生成的内容。
OpenAI表示，这项水印功能将在未来几周内向欧盟地区所有订阅计划的ChatGPT和Codex用户推出，但目前仅限欧盟范围内使用。全球范围内使用OpenAI API的开发者从今天起可以为部分模型开启该功能，默认情况下该功能处于关闭状态。OpenAI表示，目前尚未将文本水印设为全球默认开启的功能。
这种水印并非肉眼可见的符号，而是通过微妙调整模型的选词方式，在文本中留下一种人眼无法察觉、但专用检测工具可以识别的模式。由于这种模式嵌入在文字本身当中，因此即使文本被复制粘贴，水印依然会保留。OpenAI表示，该水印不会识别具体用户身份，并且在开启该功能后，模型性能没有出现明显变化。
OpenAI还在公告中同步发布了一份关于其水印技术的技术报告，该方法被称为textGrain。这份报告由宾夕法尼亚大学和耶鲁大学的研究人员共同撰写，介绍了如何利用一个密钥对下一个词的预测结果进行排序，以完成句子生成。将数百次这样的微调累积起来，检测工具便可以仅凭文本内容和密钥识别出AI生成的内容。
那么，这种水印能否通过编辑文本来去除呢？OpenAI的测试结果显示，答案是肯定的。在一项测试中，当文本中10%的词语被替换为同义词后，检测准确率从约92%下降到了66%。该公司还表示，较短的文本段落、数学类回答以及翻译文本都更难被准确检测出来。
OpenAI表示："这些局限性也是我们决定目前仅向经过批准的研究人员和专业机构开放检测工具访问权限的原因之一，他们可以帮助我们评估该技术的可靠性，并探索负责任的使用方式。"
OpenAI同时提醒称，未检测到水印"并不能证明内容是由人类撰写的"。因为文本可能过短或经过大量编辑，也可能来自其他公司开发的AI系统。
该公司表示："水印可以表明OpenAI的系统生成或处理过某段文本的一部分内容，但无法说明其中包含了多少人类的判断、编辑或创作成分。"
这一公告发布的两个月前，Anthropic曾宣布将为Claude生成的文本添加水印，并在全球范围内推行这一做法。这一决定曾引发部分Claude用户的不满，他们认为是自己提供了"指令、背景和决策"，而Claude只是"工具"而已。
据《华尔街日报》2024年报道，OpenAI此前其实已经开发出了文本水印技术，但一直未予发布，部分原因是担心用户会因此转向其他不添加水印的竞争对手产品。
目前，Anthropic、谷歌、Meta、微软和OpenAI等公司均已承诺遵循欧盟关于AI生成内容的行为准则。
Q&A
Q1：OpenAI为什么要给ChatGPT生成的文本添加水印？
A：这是为了遵守欧盟《人工智能法案》的透明度规定。该规定自8月2日起正式生效，要求AI公司以可被其他系统识别的方式标记AI生成的内容。
Q2：ChatGPT的文本水印是如何实现的？
A：水印并非可见符号，而是通过微调模型的选词方式在文本中嵌入隐藏模式，肉眼无法察觉，但专用检测工具可以识别，且这种模式会随文本一起被复制粘贴。
Q3：这种文本水印能被轻易去除吗？
A：测试显示，将文本中10%的词替换为同义词后，检测率从约92%降至66%，说明编辑修改可能削弱水印效果，较短文本、数学答案和翻译文本也更难被检测出来。
