Meta公司再次陷入负面舆论漩涡,该公司表示已修复其Meta AI软件中的一个问题,此前该功能会向用户建议一些提示语,从而收集并暴露个人隐私信息,其中甚至包括涉及儿童的信息。
这场争议源于育儿与生活方式博主Kalie Robins(网名kontheinside)9月2日发布的一段Instagram视频。视频中,Robins谈到自己此前发布的一段视频,内容是她在车内唱歌,女儿坐在后座。在该视频下方,Robins披露了Meta AI提出的一系列侵入性提示语,例如“车上的孩子是谁?”以及“Kalie Robins住在哪里?”
据Robins介绍,当她点击这些自动生成的问题时,AI工具会从她过去发布的内容中提取信息,将零散的私人细节拼凑起来,包括她的居住地点。该AI还调用了其他账号的数据,例如她母亲的账号,甚至获取了一张她声称多年前已删除的照片信息。
Robins在视频中说道:“我一直不明白,多年来分享的那些看似无害的生活碎片,怎么会被AI在几秒钟内拼凑成关于我未成年孩子的信息。”这段视频迅速走红,截至发稿时已获得超过30.8万个赞,并引发数千条评论。
问题从来不只是一张照片
Meta发言人通过邮件告诉CNET,公司已经“修复”了这一问题,Meta AI今后不会再针对用户帖子建议不恰当的个人问题。该公司承认这一功能存在偏差,并表示该工具本意只是帮助用户利用已有权限访问的数据查找更多信息。
Meta方面的回应(该回应也同步发给了其他媒体)并未让Robins满意。在9月10日的后续Instagram帖子中,她表示很高兴公司承认了问题,但仍有疑问未解:“到底修复了什么?最初是哪个环节的安全防护失效了?现在当Meta AI遇到涉及儿童的信息时,又有哪些保护措施?”
即便Meta AI不再主动建议侵入性的个人提示语,该功能仍可能根据软件能够访问到的信息进行推荐,比如公开的文本内容、网络图片,或是像Robins这样的用户此前在社交媒体上发布的帖子。
Meta同时否认了Robins关于AI访问了多年前已删除照片的说法。Meta向CNET表示,Robins孩子的那张照片其实是在视频制作前不久才被删除的,是一个临时性程序错误导致该照片短暂仍可被查看。
Robins在给CNET的邮件中表示,无论孩子那张已删除照片的具体情况如何,更大的担忧依然存在。“问题从来不只是一张照片——而是AI从多个来源汇总拼凑出关于我孩子的信息,”Robins告诉CNET。据Robins透露,Meta方面并未直接联系她或向她道歉。
Meta隐私问题再添一笔
除了Robins的Instagram账号下涌现的数百条评论外,Futurism等网站也刊发了相关报道,这也是该事件最早被广泛传播的渠道之一。据《商业内幕》报道,Robins的遭遇正促使一些家长呼吁其他人停止在网上发布孩子的照片。
“这太让人毛骨悚然了!”经常在社交媒体上分享诈骗和暗网趋势内容的Cathy Pedrayes表示。
今年,Meta因其技术对儿童造成的影响,已面临多起数十亿美元级别的和解与法院判决,涉及内容包括导致成瘾以及可能使儿童容易遭受剥削的环境。
Meta同时也因其智能眼镜产品,尤其是正在开发中的面部识别技术,而受到批评。
近期,这家科技巨头开始推出其Muse AI智能体,面向那些希望通过个人助手获得更加定制化AI体验的用户进行推广。
Q&A
Q1:Meta AI是如何获取用户儿童信息的?
A:据用户反映,Meta AI会从用户过去发布的多条帖子中提取零散信息,并拼凑成完整的个人隐私细节,包括居住地点等,甚至会调用家庭成员账号中的相关数据。
Q2:Meta对这次隐私泄露事件做出了什么回应?
A:Meta表示已经修复了这一问题,Meta AI今后不会再针对用户帖子建议涉及儿童等敏感的个人隐私问题,并强调该工具本意只是帮助用户查找已有权限访问的信息。
Q3:Meta今年还面临过哪些与儿童相关的争议?
A:今年Meta已因其技术对儿童造成的影响面临多起数十亿美元级别的和解与法院判决,涉及内容包括导致成瘾以及可能使儿童容易遭受剥削的环境等问题。
