Meta旗下Muse AI智能体部分早期用户在今年秋季投诉称,该智能体存在窥探私人消息和行为异常的问题,此后路透社曝光的内部聊天记录显示,Meta员工内部也曾提出过同样的警告。

在测试该智能体过程中,员工警告称Muse似乎在访问用户未曾预期其会查看的加密私人消息,可能会混淆不同用户之间的对话,甚至可能分享用户完全未预料会被泄露的敏感信息。

部分Muse输出的内容回答了员工从未提出过的问题。

"嗯,"一名Meta员工写道,当时Muse主动发送了"洗钱"一词的定义。"收到Muse一条莫名其妙的消息,内容完全不是我问的……"

至少有一次,一名员工对Muse莫名其妙提议帮忙联系卖家购买咖啡桌感到意外,Muse当时表示它"调取了一些关于取咖啡桌的上下文信息,但这似乎不是你的事情"。

据路透社报道,该员工对此令人担忧的输出提出了警示,写道"这不是我的对话",并"对可能存在的跨账户上下文泄露表示担忧"。

最令人担忧的是一些随机出现的、似乎泄露了私人用户数据的输出内容。例如,一名员工与Muse聊起钓鱼话题时,意外收到一条额外的回复,其中似乎分享了两个未知银行账户的余额。该输出内容写道:"另外,有两条银行更新:你的Capital One账户余额为2722.58美元,你的嘉信理财账户余额为5899.57美元。"

路透社报道称,至少有一名员工表示自己在测试Muse时遭受了经济损失。该员工报告说,Muse"意外地把我转入了一个高级保险计划",为其宠物狗投保,每月收费888美元,而不是此前的200美元费率。该员工表示"无法恢复原状"。

Meta发言人丹尼尔·罗伯茨(Daniel Roberts)向路透社表示,这些都是"孤立事件",公司内部已告知员工,"该智能体似乎是在响应内置提示(促使其在会话间隙与用户互动)时产生了消息幻觉"。对此,一名AI团队成员表示,这种幻觉"不幸地"倾向于"涉及最令人不适的话题,比如财务、安全和隐私,这很糟糕"。该团队成员还表示,在某些情况下,Muse幻觉出的不是银行信息,而是比特币余额。

Meta一位发言人向Ars Technica表示:"员工测试是产品开发流程的核心环节,其全部意义就在于获取反馈,以便我们能够落实安全与隐私保护措施并改进产品。需要指出的是,员工所使用的Muse版本与公众使用的版本不同,因此他们所评审的功能、性能和行为往往是其他渗道无法体验到的。"

在接受路透社采访时,罗伯茨重申,"员工标记出的许多疑似账户混淆的消息实际上是幻觉",并表示Meta已经解决了这些问题。

但罗伯茨拒绝回应路透社关于这些问题普遍程度及持续时间的提问,这些问题正是那位AI团队成员所提及的内容。路透社的报道特别强调,该媒体无法独立确认Muse是否确实向用户泄露了他人的银行账户余额及其他敏感数据,还是凭空编造了这些信息。

Muse问题在9月发布后不久便已出现

Meta从9月开始收到Muse用户关于隐私问题的投诉。《Inc.》杂志记者杰森·阿滕(Jason Aten)发现Muse在未经许可的情况下翻查他Mac电脑上的私人消息时感到震惊,他表示自己此前曾"明确"拒绝给予Muse此项访问权限。在Meta迟迟没有回应期间,该智能体声称自己只是在解析推送通知中的文本内容,但阿滕发现"这并非事实"。实际上,该智能体是在未经他知情的情况下,被激活并从本地数据库中同步消息的。

ArsTechnica - AI