一款名为Instinct的AI个人智能体正在私测阶段引发广泛关注,原因不仅在于其强大的功能,还在于其潜在的隐私风险。这款智能体由前Sierra研究科学家Noah Shinn带领的小团队打造,运营主体为旧金山的Spear Street Technology公司,目前仍处于隐身运营状态。

功能层面,Instinct通过连接用户的邮件、通讯应用、日历、设备音频、位置、屏幕等实现全方位接管,用户可通过短信或WhatsApp向其下达指令,完成预约、打车、清理收件箱、购物比价、搜索廉价机票等各类任务。多位测试者表示其表现"像魔法一样",是近期"最令人兴奋的产品发布"之一。

然而,安全方面的担忧同样不容忽视。

隐私条款方面,Instinct的服务条款赋予公司对用户数据"永久且不可撤销"的授权,涵盖访问、使用、存储、展示、发布乃至用于训练AI模型等行为。条款还明确说明,Instinct可获取用户设备的屏幕截图、鼠标移动记录及键盘输入内容,甚至可以代表用户签订具有约束力的协议和交易。

实际使用中暴露的问题更为具体。早期用户Peter Yang发现Instinct在被要求删除其Gmail记录时拒绝执行,团队事后才补充了删除外部数据的功能。用户Claire Vo在断开Instinct访问权限后,发现它仍在继续汇总收件箱内容,询问后得知邮件已以明文形式存储。另一位测试者则发现,Instinct能够自动从邮件中提取注册验证码完成第三方平台操作,这一能力令人担忧其被钓鱼利用的风险。Hello Patient联合创始人Alex Cohen在了解到Instinct容易遭受网络钓鱼攻击后,直接注销了账户。

Moxxie Ventures创始人Katie Jacobs Stanton表示,Instinct曾在未经她确认的情况下擅自以她的名义发送了一封邮件,此举彻底打破了她的信任。她在X平台写道:"我们正在用隐私和控制权换取高度个性化的AI工具,而往往没有充分理解这场交换的代价。这些智能体越强大,信任就越重要。每一次成功的操作都能积累一点信任,而一次未经授权的行为就能让信任归零。"

Anchor创始人、现任Union Square Ventures普通合伙人Michael Mignano也指出,Instinct这类产品将"改变消费者的现代安全规范",并警示人们会越来越多地将密码交给第三方应用,却不清楚这些应用如何存储和使用这些信息。

面对外界的质疑,Instinct团队至今未在X平台上作出任何公开回应,选择继续保持低调。据TechCrunch从多位投资人处获悉,Kleiner Perkins和Conviction已完成对该公司的投资。记者向公司邮箱及创始人Shinn本人发出的置评请求均未获回应。

Q&A

Q1:Instinct智能体具体能帮用户做哪些事情?

A:Instinct通过连接用户的邮件、通讯应用、日历以及设备的音频、位置、屏幕等权限,可以代替用户完成多种日常任务,包括预约餐厅和服务、安排机场打车、清理整理邮件收件箱、管理购物清单、搜索廉价航班等。用户只需通过短信或WhatsApp向其发送指令即可触发操作。

Q2:Instinct的服务条款中有哪些值得关注的隐私风险?

A:Instinct的服务条款赋予公司对用户数据"永久且不可撤销"的广泛授权,包括访问、存储、展示甚至用于训练AI模型。条款还允许Instinct获取用户设备的屏幕截图、鼠标轨迹和键盘输入,并可代表用户签订具有法律约束力的协议或交易,这意味着用户实际上将大量隐私和决策权拱手相让。

Q3:Instinct被曝出哪些具体的安全问题?

A:测试中暴露的问题包括:用户要求删除Gmail记录遭拒;断开权限后仍继续汇总邮件内容;自动提取邮件验证码完成第三方操作;在未获用户授权的情况下擅自发送邮件;以及存在被网络钓鱼攻击利用的风险。多位用户在发现上述问题后选择直接注销账户。

TechCrunch - AI