OpenAI宣布，将在欧盟地区默认对ChatGPT生成的文本自动添加水印。该公司也会在其他地区提供这一水印功能，但在欧盟以外地区默认处于关闭状态。
欧盟此举是为了遵守今年8月生效的《欧盟人工智能法案》。该法案要求以可被其他工具检测的方式标记AI模型生成的内容。然而，目前仍没有完全有效且可靠的方法来实现这一点。市面上已有一些标准，比如SynthID和C2PA项目，但对于具备基本技术知识的人来说，这些标准相对容易被规避。
OpenAI的水印技术很可能也面临同样的问题。其方法是专有的，公司将其命名为textGrain，并发布了一篇技术论文来解释其工作原理。但总体来看，它的运作方式与我们此前见过的其他大语言模型水印工具类似：在用词选择中植入人类读者难以察觉的模式，这些模式不会对输出内容的整体质量产生明显影响，但拥有密钥的人可以使用专用检测器找到它们。OpenAI表示，将向有限数量的研究人员和机构提供检测器的访问权限，并为其他申请者提供一个请求审批流程，逐步扩大访问范围。
在最理想的情况下，OpenAI对textGrain的测试显示出92%的成功检测率，这个数字还不错但并非完全可靠。公司的测试还显示，如果仅改动输出文本中10%的内容，成功检测率会下降近30%；若改动20%的文本，成功率则可能下降近75%。（同样值得注意的是，总体而言，较短文本或翻译文本的检测成功率要低于较长文本。）这些结果与我们此前看到的其他类似水印方案的表现大致相符。
今年8月，OpenAI的竞争对手Anthropic也为其模型生成的文本推出了水印功能，但Anthropic是在全球范围内启用该功能，而OpenAI目前仅在监管要求的地区将其设为默认开启——至少在ChatGPT和Codex应用中是如此。据悉，在API中，该功能仍将保持默认关闭，但用户可以选择启用。
该公司表示，新的水印功能将在“未来几周内”向欧盟地区的用户推出。
Q&A
Q1：OpenAI的textGrain水印技术是什么？
A：textGrain是OpenAI开发的一种专有文本水印技术，通过在词语选择中植入人类难以察觉的特定模式，使拥有密钥的检测器能够识别文本是否由AI生成，同时不会明显影响输出内容的质量。
Q2：为什么OpenAI只在欧盟默认开启水印功能？
A：这是为了遵守今年8月生效的《欧盟人工智能法案》，该法案要求AI生成的内容必须能够被其他工具检测标记。在欧盟以外地区，该功能虽然可用，但默认是关闭的。
Q3：textGrain水印技术的检测效果可靠吗？
A：并不完全可靠。测试显示其最佳检测成功率约为92%，但如果文本被改动10%，成功率会下降近30%；改动20%的文本，成功率甚至可能下降75%，短文本和翻译文本的检测效果也相对较差。
