AI生成内容的质量已经高到难以用肉眼分辨真伪的程度,想要辨别一张照片是否逼真的伪造品,已经不像一年前那样靠寻找六根手指之类的明显破绽就能完成了。除了寻找细微线索外,发现AI图像往往取决于一种直觉——感觉某处看起来不对劲。
现在又有了一款新工具可以帮助识别伪造内容,而且它同样适用于经过AI编辑的音频和视频。谷歌已经向公众开放了SynthID检测工具,任何拥有谷歌、苹果或ChatGPT账户的用户都可以上传媒体文件,查看该内容是否带有SynthID标记,以判断其是否经过生成式AI处理。
谷歌于2023年推出了SynthID技术,并在2025年末使得用户可以通过谷歌Gemini查询图像是否由谷歌AI生成。在今年5月的谷歌I/O年度开发者大会上,该工具扩展至谷歌Chrome浏览器和谷歌搜索,可检测视频和音频内容。
独立的SynthID检测工具目前可以识别由谷歌、OpenAI、英伟达和Kakao生成的媒体内容。目前尚未上线的是苹果公司,该公司在近期发布iPhone 18 Pro和iPhone Duo的秋季发布会上宣布将支持SynthID。
(披露信息:CNET母公司Ziff Davis于2025年对OpenAI提起诉讼,指控其在训练和运营AI系统过程中侵犯了Ziff Davis的版权。)
谷歌一位发言人在给CNET的邮件中强调,在识别AI生成内容方面,与其他公司合作至关重要,因为没有任何一家公司能够单独解决这个问题。该发言人还表示,目前尚无苹果支持功能上线的具体日期,但表示该功能将很快推出。
即便如此,SynthID检测工具似乎已经为苹果的内容做好了准备。我上传了一张用iPhone 18 Pro拍摄、并使用苹果Reframe工具编辑过的照片,该工具成功检测出了嵌入其中的SynthID标记。而对于一张未经编辑的iPhone拍摄照片,检测工具则正确地未检测出标记。
使用ChatGPT提示词生成的图像也被正确标记为含有AI生成内容。
为了进一步测试该工具对苹果内容的支持程度,我在苹果的Playground应用中使用ChatGPT的图像生成模型创建了一张完全由AI生成的图像,但SynthID检测工具并未将其识别为AI生成内容。这可能是因为Playground应用尚未接入SynthID标记功能。
我还测试了一些使用谷歌Pixel 11 Pro拍摄的照片。该公司在自家设备上采取了双重策略来验证图像真实性:在每张拍摄的图像中嵌入C2PA(内容来源与真实性联盟)元数据,以验证原始拍摄内容的真实性;同时在图像经过AI编辑时添加SynthID标记。
尽管苹果已经采用SynthID技术,但该公司并未加入C2PA联盟。相反,苹果使用自己的Reference Image(参考图像)技术,以加密方式验证并存储图像的原始版本。不过,这类照片必须在iPhone相机应用的参考模式下拍摄才能生效。
另外值得一提的是,谷歌在处理媒体文件方式上也考虑得比较周全。用户首次访问该网站时,必须同意服务条款,其中明确说明上传的媒体文件会实时处理,并在结果显示后立即删除。该媒体文件的数字签名会与用户标识关联,并在24小时后删除。
OpenAI也有自己的验证工具,但它只能检测OpenAI自身的水印;在谷歌工具测试中呈阳性的AI生成样本,在OpenAI的网站上检测结果却是阴性。
任何能够帮助判断内容真实性的工具都值得欢迎,但一如既往,判断的责任最终还是落在了观看者身上——如果不能一眼看出破绽,那就需要主动下载媒体文件、打开检测工具并上传检测。好消息是,像SynthID这样的追踪技术终于开始被更多媒体平台采用,这为更广泛地识别AI劣质内容铺平了道路。
Q&A
Q1:SynthID检测工具是什么?
A:SynthID检测工具是谷歌推出的一款公开工具,用户可以上传图片、视频或音频文件,检测其中是否带有SynthID标记,从而判断该内容是否经过生成式AI处理或编辑。
Q2:SynthID检测工具目前支持哪些公司的AI生成内容?
A:目前该工具可以检测由谷歌、OpenAI、英伟达和Kakao生成的媒体内容。苹果公司已宣布将支持SynthID,但具体上线时间尚未公布。
Q3:上传到SynthID检测工具的文件安全吗?
A:谷歌表示上传的媒体文件会实时处理,结果显示后立即删除,文件的数字签名会与用户标识关联,并在24小时后自动删除,整体处理方式较为规范。
