OpenAI宣布在ChatGPT和Codex中推出一种隐形的、机器可读的文本水印技术,但目前这项功能仅面向欧盟地区用户开放。
OpenAI表示,其名为textGrain的文本水印技术"达到或超过"了其他类似方案的表现,比如谷歌DeepMind为文本设计的SynthID技术。SynthID也是Anthropic公司今年8月宣布的水印功能的技术基础。与OpenAI一样,Anthropic此举也是为了满足欧盟《人工智能法案》的相关要求;不过,这一举措并非所有人都表示欢迎。
OpenAI还公布了相关AI基准测试的得分,显示添加水印和未添加水印的文本在性能表现上相近。但公司也指出,textGrain"并不能保证可靠的检测结果",并强调文本水印并不能验证内容的准确性,也无法确定文本的所有权归属,无法衡量人类对内容的贡献程度,更无法证明内容是否由人类撰写。
在欧盟地区推出文本水印功能。未来几周内,OpenAI将为欧盟地区所有订阅计划下符合条件的ChatGPT和Codex用户引入文本水印功能。该公司表示,目前并不会将文本水印设为全球默认功能。这种区域化的推进方式,能让公司从真实使用场景和用户反馈中积累经验。
为API客户开放水印功能的自主选择权。从今天开始,全球范围内的API客户都可以针对部分模型选择启用带水印的文本输出。这让客户能够根据自身的透明度要求以及为用户提供的服务体验,自主决定是否采用水印功能。OpenAI还表示,正在与云服务合作伙伴协作,使通过其服务访问OpenAI模型输出的用户,在未来几周内也能使用该水印功能。
向研究人员和专业机构开放检测工具访问权限。经过审核的研究人员和专业机构从今天起可以提出申请。根据相关行为准则的要求,访问权限将首先按个案逐一授予,以支持对文本来源溯源技术的评估与改进。该检测工具只会报告是否检测到OpenAI的水印标记,不会识别用户身份,也不会披露用户的提问内容或对话记录。鉴于存在水印漏检和误判的风险,OpenAI表示目前暂不会向公众开放该工具。
Q&A
Q1:OpenAI的textGrain文本水印是什么?
A:textGrain是OpenAI推出的一种隐形、机器可读的文本水印技术,用于标识ChatGPT和Codex生成的文本内容,目前已在欧盟地区率先上线。
Q2:textGrain水印能证明内容是人类写的还是AI写的吗?
A:不能。OpenAI明确表示,文本水印并不能验证内容准确性、确定文本所有权、衡量人类贡献程度,也无法证明内容的作者身份。
Q3:普通用户和API客户如何使用这项水印功能?
A:欧盟地区的ChatGPT和Codex用户将在未来几周内陆续获得该功能;全球范围内的API客户则可以自主选择是否为部分模型启用带水印的文本输出。
