芝加哥大学

如今艺术家们正面临两难的困境，作品需要放在网上被更多人看到，才可能产生收入，但同时更多的曝光，可能带来的就是作品被拿来用于AI训练。这种行为实质上剥夺了艺术家的创作价值和经济来源，甚至可能彻底摧毁其职业生涯。

2020年，芝加哥大学赵燕斌的团队就推出过一款图像遮蔽工具Fawkes，用来防止第三方根据网上的公开照片构建未经授权的面部识别模型。

2024年，又开发了Nightshade处理视觉艺术作品，使作品在未经同意就被用于AI模型训练时，能对模型产生干扰；以及Glaze，用来保护艺术家免受风格模仿的影响。

Nightshade就好比“在你的午餐中加入辣椒酱，这样它就不会从办公室里的冰箱被偷走”。 Nightshade瞄准文本提示之间的关联，巧妙地改变图像像素，诱使大模型解读出与人类观看者完全不同的图像。大模型会错误地对“阴影”图像的特征进行分类，如果使用足够多的“中毒”数据进行训练，它们就会开始生成与相应提示完全无关的图像。

自2024年1月发布以来，Nightshade的下载量已超过250万次，Glaze自2023年3月发布以来下载量达到760万次。

与Nightshade类似，Glaze工具可以扭曲大模型的“观看”和判断艺术风格的方式，防止其模仿艺术家的独特作品。人类可能会看到一幅“釉面”逼真的炭笔肖像，但大模型会将其视为抽象画，然后在被要求绘制精美炭笔肖像时，生成杂乱无章的抽象画。