Meta 新推出的 AI 助手 Muse 表现出色,但也让不少用户感到毛骨悚然。这种不安感部分源于它的新版 Mac 应用,该应用可以访问用户的信息(Messages)、日历和备忘录。不过更让人在意的是,尽管 Muse 功能强大,它却无法准确描述自己是如何工作的。

《Inc 杂志》特约编辑杰森·阿滕(Jason Aten)在 Threads 上发布了一组截图,记录了他与 Muse 的一次对话。在对话中,Muse 主动向他询问了一些关于他在 Messages 中正在进行的对话内容的问题。

问题在于,阿滕表示自己从未授权 Muse 访问他的信息应用。当他追问 Muse 是如何知道这些信息内容的,Muse 回答说:“我看到的是通知预览,而不是你的消息记录。我没有在读你的短信。”阿滕继续追问 Muse 是如何接收到这些消息预览的,但它却给不出一个令人信服的答案。它回应道:“老实说,我说不清具体的技术实现。我只知道,配对的 Mac 应用会将通知作为一种能力开放出来,这些信息通过设备同步的方式传递给我。”

这样的回答显然不够理想。

Meta Superintelligence Labs 的大卫·辛格尔顿(David Singleton)随后在该帖子下方回应,试图澄清事实。他首先解释了 Muse 读取信息所需的各项权限,包括需要为 Mac 应用授予完全磁盘访问权限。他强调,这些功能都是用户自愿开启的。

更值得关注的是,辛格尔顿在回复的后半部分表示,Muse“并不会监视你 Mac 上的通知,而是仅在用户明确开启相关权限后,才会同步 Messages 中的数据”。他指出,问题的关键并不在于 Muse 偷偷读取了阿滕的短信,而在于 Muse 自己根本不清楚自己是如何运作的。他解释道:

在杰森截图中的对话里,当 Muse 说自己同步了“设备通知”时,它其实并不清楚该如何解释这一功能,因此给出了一个错误的解释。这是我们的问题。我们对 Muse 给出的错误回答表示歉意,目前正在努力提升 Muse 对自身内部机制的理解,以便它能更准确、更一致地回答关于自身运作方式的问题。

这样的解释或许并不能完全打消人们的疑虑,但也确实说得通。毕竟众所周知,聊天机器人往往不会向用户透露自己的“秘密”,而是倾向于给出用户想听到的答案。

Q&A

Q1:Muse为什么会知道用户Messages里的对话内容?

A:根据Meta的解释,Muse并不会直接读取用户的消息记录,而是通过用户主动授权的Mac应用,同步Messages的通知预览内容,因此能了解到部分对话信息。

Q2:Muse读取信息功能是否需要用户授权?

A:是的,Meta Superintelligence Labs的大卫·辛格尔顿表示,Muse访问Messages、日历和备忘录等功能均为可选项,只有用户主动开启相关权限后,Muse才能同步这些数据。

Q3:Muse为什么无法准确解释自己是如何获取信息的?

A:Meta方面承认,这是Muse自身的问题,它对自己内部运作机制的理解还不够准确,导致在解释功能时给出了错误答案,目前团队正在改进这一情况。

The Verge