当AI图像生成器生成一幅肖像时，究竟是谁的作品构成了它的基础？这一问题是全球范围内众多诉讼、授权协议和拟议法规的核心所在。艺术家希望获得署名权，企业需要明确的法律边界，政策制定者则希望找到划定责任的方法。
麻省理工学院计算机科学与人工智能实验室（CSAIL）的研究团队发布的最新研究成果表明，对于在大型数据集上训练的模型而言，这个问题往往无法给出明确答案。这并非是溯源工具不够完善，而是数据与输出之间的关联本身已经消失。
研究人员发现了一种他们称之为"归因衰减"的现象：生成式AI模型训练所用的数据量越大，任何单一训练样本对特定输出的影响就越小。这听起来有些反直觉，但研究发现，在足够大的数据规模下，从训练数据中移除某张单一图像、某位艺术家的所有作品，甚至某个人的所有照片，往往都不会导致生成结果发生变化。
研究人员认为，如果移除某样东西不会带来任何影响，就无法认定其对结果负有责任。
论文第一作者、麻省理工学院CSAIL前研究员戴政（Zheng Dai）表示："如果你移除了某条数据，而模型的输出没有发生变化，那么这条数据就没有影响输出结果。因此，将该输出归因于这条数据并无意义。如果你对其他每条数据逐一执行同样的操作，发现输出同样没有变化，那么将输出归因于其中任何一条数据都说不通。"
麻省理工学院教授、CSAIL主要研究员大卫·吉福德（David Gifford）指出："所有以往的方法都是近似的，无法绝对证明删除单个数据不会改变输出结果。这篇论文提出了第一种绝对方法——你实际上是在删除输入数据及其全部影响，这是首个能够高效进行大规模删除并验证结果不变的精确方法。"
该研究以开放获取论文形式发表于《自然·通讯》期刊。
重新训练难题
直接验证这一想法，意味着要回答一个"假设"问题：如果模型从未见过某张特定图像，它会生成什么？诚实地回答这个问题，需要在不含该图像的情况下从头重新训练模型，然后对下一张图像再做一遍，如此循环往复。面对数百万个训练样本，这样的计算量很快就会变得难以承受。这也正是此前归因领域的研究大多依赖近似估算的原因。
研究团队的解决方案是一种他们自主设计的架构，称为"扩散集成"。它不是一个单一的庞大模型，而是由多个较小的组件构成，每个组件在不同的数据子集上训练。想知道模型在没有某张特定图像的情况下会生成什么？只需关闭曾见过该图像的组件即可，无需重新训练，也无需近似估算。剩余部分构成的是一个真正的反事实模型，而非对反事实的估算。
当然，巧妙的架构设计只有在生成效果仍然良好时才有意义。为此，研究团队将这些集成模型与在完全相同数据上训练的24个常规扩散模型进行了对比测试。按照标准评估指标，两者生成的图像质量大体相当。
数据中还有一个令人惊喜的发现：训练数据越多，集成模型相较于单一模型的表现越稳定，这暗示集成模型实际上可能具有更高的数据利用效率。
戴政表示："当数据量较少时，集成模型表现较差；但当数据量增加时，它的扩展效果实际上优于传统扩散模型。"
探索反事实宇宙
在消融实验机制建立后，研究人员终于能够大规模地提出他们的核心问题。针对一张生成图像，设想其所有替代版本——每个版本都通过移除训练数据中的一部分得到。研究团队将这些替代版本的集合称为该图像的"反事实宇宙"，原始图像与其中差异最大的替代版本之间的距离，即"反事实半径"，代表了单条训练数据所能产生的最大影响程度。
研究团队在规模从256张到超过160,000张图像的数据集上训练了24组集成模型，数据来源涵盖CIFAR-10、CelebA、MetFaces和ArtBench等七个公开数据集。结果呈现出一致的规律：训练集规模越大，反事实半径越小，且遵循反幂律关系递减。无论是按像素逐一衡量差异，还是按语义相似度衡量，这一规律在统计上均具有显著性。
研究团队还对自身结论进行了严格的压力测试。消融机制本身是否是干扰因素？他们以暴力穷举的方式在小规模数据上进行了重新验证，训练了1,282个独立模型，"衰减"现象依然出现。是否仅仅因为数据集更大，每次移除所占的比例就更小？他们固定了移除比例，衰减依然存在。固定训练轮次、文本提示模型、类别条件模型、四种相似度指标——这一发现经受住了所有验证。
隐私悖论
这些研究发现的深远影响，甚至让研究者自己也感到出乎意料。
吉福德认为，这一发现与模型输出是否构成衍生作品这一法律问题直接相关。
"一种理解方式是，这些模型具有创造性。它们并非简单地复制输入内容，而是在生成全新的输出。如果这些输出与任何单一训练数据都没有关联，那么就会引发一系列问题：关于合理使用的边界、关于这些输出本身是否可作为新颖作品受版权保护，以及当模型的输出无法归因于互联网上的任何内容时，创作者应如何获得补偿。"
吉福德还指出，这项研究展示了如何生成被保证为不可归因的输出——他将这一能力定性为行业的责任，而非一个可被利用的漏洞。
"为了让这些公司能够声明其输出并未以侵犯版权的方式衍生自互联网内容，它们需要对现有模型进行改进，充分利用本研究的技术进展，从而证明它们没有在生成针对特定个人或特定内容的衍生作品。"
本研究聚焦于扩散模型。扩散模型如今在音视频媒体生成领域占据主导地位，并广泛应用于蛋白质结构建模和治疗方案发现等科学领域。而同样的衰减规律是否适用于那些处于最高关注度版权诉讼中心的大语言模型，目前仍是一个开放性问题。
康奈尔大学法学院及康奈尔科技学院法学教授詹姆斯·格里莫曼（James Grimmelmann）表示："如果归因机制有效，它将能够可靠地告诉我们，模型输出与受版权保护作品之间的相似性，究竟源于复制还是巧合。但这篇论文提供了充分理由，让人相信对于有实际价值的模型而言，归因机制将会失效。技术人员和法院将需要借助其他方法来评估复制行为。"
戴政和吉福德的研究获得了Schmidt Futures的支持。
Q&A
Q1：什么是"归因衰减"，它对AI版权问题意味着什么？
A：归因衰减是麻省理工学院CSAIL研究人员发现的一种现象，指的是生成式AI模型训练数据越多，任何单一训练图像对生成结果的影响就越弱。研究发现，在大规模数据集下，移除某张图像往往不会改变模型的输出。这对版权问题意味着：如果某个数据对输出没有影响，就很难将该输出归因于这个数据，从而使传统的版权归属逻辑在AI领域面临根本性挑战。
Q2：麻省理工学院团队是如何验证"归因衰减"这一现象的？
A：研究团队设计了一种名为"扩散集成"的新架构，由多个在不同数据子集上训练的小型模型组成。这样，研究人员可以直接"关闭"接触过某张图像的组件，无需重新训练整个模型，从而精确测量移除某条数据前后的生成结果变化。他们在七个公开数据集上训练了24组模型，并通过像素差异和语义相似度等多种指标进行验证，结果一致表明：数据集规模越大，单条数据的影响就越趋近于零。
Q3：这项研究对AI公司和艺术家各有什么影响？
A：对AI公司而言，研究表明在足够大的数据规模下，其模型输出可能无法被归因于任何单一训练样本，这在法律上有利于其主张输出并非对他人作品的衍生复制。但研究者同时指出，公司有责任改进模型架构以确保这一点成立。对艺术家而言，这意味着以"我的作品被用于训练"为依据主张版权赔偿将变得更加困难，法律界和技术界可能需要探索全新的版权保护方式。
