国际标准机构正在加紧努力，为终端用户和企业提供区分真实图像、视频及其他内容与深度伪造（Deepfake）及AI生成内容的工具。近期，在联合国主办的"AI向善"日内瓦会议上，多项新标准相继发布。
当前，图像领域的可信度危机愈演愈烈。人们已越来越难以分辨真实照片与AI生成图像，这对社会和商业领域带来深远影响，令新闻报道、社交媒体帖子乃至犯罪现场照片证据的真实性都受到质疑。经济损失同样触目惊心：根据德勤金融服务中心的预测，生成式AI可能使美国因欺诈造成的损失在2027年达到400亿美元，相比2023年的123亿美元大幅增长。
随着手机和个人电脑上涌现出海量图片，要判断照片、视频或其他内容究竟是真实的还是AI生成的，已变得极为困难，甚至几乎不可能。
"你现在根本不知道某样东西是不是真的。"瑞士联邦理工学院教授图拉吉·易卜拉希米表示。他正在主导应对AI欺诈和深度伪造问题的相关工作，与国际电工委员会（IEC）、国际标准化组织（ISO）和国际电信联盟（ITU）等主要国际标准机构合作，共同制定和推广通用标准，帮助用户和企业识别虚假AI生成内容与真实内容。"你需要查看元数据和相关信息，才能找到它，并将其置于正确的背景中理解。"
为此，IEC和ISO为JPEG Trust标准新增了两项内容，以帮助验证图像和数据的真实性。去年发布的第一项JPEG Trust标准旨在提供一个框架，以信任指标的形式将元数据直接嵌入JPEG文件。目前正在推进中的JPEG Trust两项新增内容如下：
目前正在制定中的JPEG Trust新增标准包含两个方向，具体内容尚在推进阶段。
易卜拉希米表示，JPEG Trust标准的目标是将验证工具交到终端用户手中，而并非在内容创建时对图像或数据进行验证或标注。"欺诈者不会给自己的内容贴上AI标签，"他说，"如果有人想违法，他不会一边违法，一边遵守另一项要求内容必须标注的法律。"
因此，JPEG Trust"并不是一个告诉你是否应该信任某段视频或图片的标准，"他解释道，"它提供的是一种手段，让你可以根据自己的内容、自己的偏好以及个人意愿来决定是否信任。"
语境是另一个需要权衡的因素，且因人而异。"信任是高度情境依赖的，"他说，"有些人可能因为自身的背景或所处情境而选择信任某件事，而同一个人在不同情境下，对同一事物的信任程度也可能发生变化。"
易卜拉希米表示，迄今为止，识别和打击深度伪造及AI诈骗的努力较为分散，各公司在各自生态系统内推广不同方案，另有一些公司联合起来制定行业事实标准。"一个大问题是，哪个标准最终会占据主导地位？"IEC和ISO认识到，业界需要普遍认可的通用标准。
多媒体防欺诈工作从2018年正式起步，当时IEC和ISO的JPEG委员会首次就虚假内容泛滥的问题展开应对。"他们意识到，JPEG文件被用来传播虚假图像，存在明显漏洞，"易卜拉希米说。如今，随着AI生成图像大量涌现，挑战在于如何将标准延伸，帮助用户和企业验证所接收图像的真实性。
除JPEG Trust外，IEC和ISO"AI与多媒体真实性标准"计划下还有以下多项多媒体标准正在制定中：
内容来源档案：为记录数字内容来源提供框架，包括关于创建和维护档案的指南，详细记录内容创作者信息及创作过程。
AI内容偏好表达词汇表：提出一套标准化词汇体系，涵盖与文本和数据挖掘及AI训练相关的机器可读拒绝授权用例。
H.MMAUTH多媒体内容身份验证框架：基于数据流数字签名技术，该拟议标准允许用户通过可信第三方，验证内容由创作者本人发布的真实性。
Q&A
Q1：JPEG Trust标准是什么？它如何帮助识别AI生成图像？
A：JPEG Trust是由IEC和ISO联合推出的图像真实性验证标准，核心做法是将元数据以信任指标的形式直接嵌入JPEG文件中。它不会主动为图像贴上"真实"或"AI生成"的标签，而是向用户提供验证工具，让用户结合自身需求和使用场景，自行判断图像内容的可信度。
Q2：为什么AI图像欺诈的经济损失会增长这么快？
A：根据德勤金融服务中心的预测，生成式AI大幅降低了制作以假乱真内容的门槛，使欺诈行为更易实施、更难被识破。美国因AI图像欺诈造成的损失预计将从2023年的123亿美元，猛增至2027年的400亿美元，四年间增长超过三倍，增速与生成式AI技术的普及和滥用密切相关。
Q3：除了JPEG Trust，还有哪些多媒体真实性标准正在制定中？
A：IEC和ISO目前正在推进多项相关标准，包括：记录数字内容来源的"内容来源档案"标准；提供机器可读拒绝授权词汇体系的"AI内容偏好表达词汇表"；以及基于数字签名技术、允许通过可信第三方验证内容真实性的"H.MMAUTH多媒体内容身份验证框架"。
