引用乔治·桑塔亚纳的话："那些不记得过去的人注定要重蹈覆辙。"那为什么大型科技公司似乎总是记性不好呢？
最新的问题出在Meta身上。9月中旬，该公司为其全新的Muse AI智能体推出了一项测试功能的公测，该功能可以代替用户给商家打电话完成任务，比如预订和预约。
然而，根据路透社和404 Media周二的报道，这个所谓的自主智能体实际上可能会将任务转交给呼叫中心里训练有素的人工客服——而且事先并未告知用户这一情况。
9月16日，Meta超级智能实验室的首席工程师瑞安·福克斯宣布了Muse外呼功能的公测版本，并在X平台上发帖征求反馈，指出"电话拨打"是用户最常提出的需求之一。
但404 Media表示，根据Facebook内部记录，该公司在这款个人助理产品的背后做了完全不为人知的事情。在向员工内部宣布这项功能时，这家科技巨头表示他们"增加了一层人工客服来完成通话"，并将其称为"Muse人工客服通话"。
一些Meta员工对此表示不满，其中一人在内部发帖称："这有可能引发大量负面公关。这可能会让外界报道认为，'他们的AI还不够好，所以仍然需要人工'。"
真相很少是单纯的……
添加人工层的问题不仅仅在于对Muse能力的AI粉饰，也不仅仅是因为未能披露链条中可能存在人工环节而产生的欺骗性。一些智能体系统会引入"人在回路"的人工监督机制，用于保障安全性和合规性。
目前尚不清楚Meta在安全和合规方面究竟做了多少工作。但员工们提出了更大的隐私担忧，据路透社报道，一名员工警告称："我们随时可能因为一个漏洞，就把不必要的信息泄露给人工客服。"而漏洞确实存在。
当你使用AI智能体执行个人任务时，比如预订、购物或预约就医，通常会牺牲一定的隐私。但如果你发现刚刚是一个完全陌生的人帮你预订了性传播疾病检测，这种感觉会糟糕得多。
这也是一个黑箱。你不知道那个人被提供了怎样的背景信息，不知道他们是否看过你的聊天记录，或者是否因此知道你住在哪里、如何联系你。考虑到该公司的智能眼镜里满载着Muse功能，可能会有更多数据被提供出去。
你还在向所谓的自主智能体（在这种情况下，实际上是位于未公开呼叫中心的人工承包商）提供敏感信息，比如电话号码、患者ID或银行信息。
这是赋予AI模型作为个人助理执行任务权力这一日益增长趋势的一部分。就在本周，谷歌推出了让其Gemini智能体处理日常电话的功能。该功能实现方式是将通话中涉及交易的部分——比如提供信用卡信息——交还给用户本人处理。但风险依然存在。
……而且从来都不简单
关键在于，Meta此前已经多次打破过用户对其隐私的信任。2019年，Facebook不得不叫停一项利用承包商监听并转录Messenger通话内容的项目。
由于这类AI智能体经常需要人工干预来验证其是否交付了预期结果，"哦，这个员工看到了这个"之类的意外事件似乎在所难免。
这种由隐藏的人工大军在幕后完成模型部分实际工作的"波将金AI"现象，并不仅限于电话业务。今年2月，有报道披露Waymo在海外的自动驾驶汽车运营中，有远程操作员在提供辅助支持。
而这一次，Meta Muse外呼功能的推出再次被叫停。路透社报道称，在Meta超级智能实验室部门的一名副总裁承认"这是一次失误"——在未充分披露涉及人工承包商的情况下就开始测试该功能后，公司暂时叫停了这项功能。
当然，真正的问题不在于记性不好，而在于大型科技公司一贯的做法："做坏事，被抓包，道歉，撤回，也许再交一笔微不足道的罚款。如此循环往复。"在某个时刻，当我们集体感到疲惫之后，这个循环就会简化为"做坏事，但依然获利"。
我们已就此联系Meta寻求置评和澄清，但截至发稿未收到回复。
Q&A
Q1：Meta的Muse AI智能体出了什么问题？
A：Muse本应是自主完成打电话预订等任务的AI智能体，但据报道，该功能实际上将部分任务转交给呼叫中心的真人客服完成，而且事先并未告知用户这一情况，引发了透明度和隐私方面的担忧。
Q2：使用AI智能体打电话会有哪些隐私风险？
A：用户提供的敏感信息（如电话号码、患者ID、银行信息）可能被未公开的人工客服看到，且用户无法得知客服获得了多少背景信息，存在信息泄露的风险。
Q3：Meta之前有过类似的隐私问题吗？
A：有的。2019年，Facebook曾因让承包商监听并转录Messenger通话内容而被迫叫停相关项目，此次Muse事件被认为是类似问题的重演。
