Instagram上充斥着被深度伪造(deepfake)的内容创作者所发布的内容——而近期,这股风潮甚至波及到了Meta公司最具知名度的高层之一。
11月上旬,Meta首席AI官亚历山大·王(Alexandr Wang)分享了一段短视频,用以宣传该公司的消费级AI智能体产品Muse。在这段AI生成的短片中,王本人、Meta首席执行官马克·扎克伯格、OpenAI首席执行官萨姆·奥特曼,以及Muse的拟人化吉祥物Jolly,一同出现在一场四方视频通话中。当奥特曼加入通话时,他的装扮颇为滑稽——穿着带毛绒兜帽的服装,脸上涂着彩绘,整体造型模仿了可爱角色Jolly。该短片配文为“当兄弟们聚在一起讨论openai产品战略时”,暗讽了当下激烈的AI智能体竞赛以及Muse近期走红的现象。
就在几年前,涉及真实人物的AI内容一度引发公众的强烈谴责,批评其利用技术冒充真人。在某些情况下,甚至有人以法律诉讼相威胁。而如今,AI生成内容已成为新现实的一部分肌理,尤其是在社交媒体平台上。例如,在美国中期选举前,多个政治团体投放了价值数百万美元的AI生成广告,用以攻击竞争对手。
王一直在进行一些被外界称为“反公关”式的营销,为Muse造势——他发布了数百条推文,并将传统营销人员称为“corposlops”(企业营销废话制造者)。尽管如此,一位重要科技公司高管发布涉及竞争对手的AI视频,仍然颇为引人注目,尤其是在Instagram这样一个近期因AI生成内容而屡遭批评的平台上。今年10月,一张由AI生成的演员米娅·高斯(Mia Goth)的图像曾在平台上广泛传播,这位《珍珠》(Pearl)主演的经纪人随后向The Verge表示,Instagram允许这类图像扩散、而非专注于“保护公众人物形象的完整性”,这种做法“令人难以理解”。此外,包括斯嘉丽·约翰逊(Scarlett Johansson)等其他名人,也经常成为AI性化图像的受害者;Meta过去曾下架过一些被发现冒充他人、盗用其形象的账号。
Meta要求所有描绘真人的AI生成视频必须标注为AI内容,王发布的视频正是如此标注的。然而,静态图像则没有类似的强制要求,这意味着那张米娅·高斯的AI图像在传播时并未附带任何提示信息。更令人担忧的是,这张图像是由一个拥有Instagram官方认证蓝色标志的粉丝账号发布的。
在被问及此事时,Meta发言人特雷西·克莱顿(Tracy Clayton)指出,王发布的内容已标注为AI生成内容。她还提到,奥特曼本人此前已授权将其形象用于AI内容生成——例如OpenAI在推出Sora应用时,该应用很快便涌现出大量虚假的奥特曼视频。OpenAI方面未对此置评请求作出回应。
