全球第二大航空公司美国联合航空周三正式宣布封锁客户端机器人访问权限,继沃尔玛、塔吉特和亚马逊之后,成为最新一家采取此类措施的大型企业。
这家市值590亿美元的航空公司表示,此举出于对数据泄露、非预期购买行为以及违反联邦航空法规风险的担忧。
但行业观察人士指出,更令人担忧的商业风险在于人工智能领域缺乏行业标准,加之各大AI厂商和初创企业推出的机器人数量不断增加。业内担忧,如果要支持客户使用的多种机器人,将对IT资源造成几乎无限的消耗。不过他们也表示,若行业标准得以严格落实,或许能促使一些企业重新考虑其对机器人的排斥态度。
美联航在声明中表示:"美联航正在采取措施,限制未经授权的第三方个人AI智能体或助手使用我们的数字平台,并通过旅行社和聚合平台间接限制其访问。这项工作包括对预订、票务和分销政策的更新。"
声明指出,银行业和零售业的企业领导者已针对AI智能体采取了类似行动,并表示:"我们鼓励其他企业考虑采取措施,以维护客户数据和安全,并加强安全保障。"
该航空公司列举了试图规避的各种机器人相关问题,包括客户与第三方个人AI助手共享账户凭证所带来的风险。"这类工具可能泄露敏感信息,其所采取的行动可能导致非预期购买、账户变更或里程计划积分的使用。"
声明还提到了监管方面的挑战:"这些自动化AI行为可能违反美国联邦航空管理局(FAA)和交通运输部(DOT)的相关规定",例如值机规定要求必须由人工确认行李中不含爆炸物等违禁物品。
不过,该航空公司向行业传递了明确信号,表示如果情况发生充分变化,将重新考虑这一禁令。声明称:"随着个人AI助手的发展,美联航将持续评估这些工具与我们服务之间的互动方式,重点在于保护客户权益。"
区分人类与机器人
企业对智能体的一大担忧在于,由于机器人使用的是客户本人的账户凭证,其活动通常与真实客户的行为难以区分。分析人士认为,解决这一问题最简洁的方式是为机器人分配独立的身份凭证。
上月,沃尔玛朝这一目标迈进了一步,推出了一项计划用于区分机器人与人类行为的方案,预计本月正式启动。
沃尔玛在公告中表示:"目前,当客户使用AI智能体时,该智能体会以客户账户登录。这意味着,无论是客户本人还是智能体完成的购买行为,都会混在一起显示,无法区分。即将于下月上线的'智能体档案'功能,将为客户提供全新的透明度。客户可以在账户中为每个AI智能体授权建立专属档案,从而将智能体的购买记录与自己的其他购买记录区分开来。"
与此相对,塔吉特近期修改了服务条款,仅批准少数经认证的智能体访问,包括塔吉特自有的AI购物助手,以及OpenAI、谷歌和微软的产品,但其同时表示可"随时自行决定增加、移除或修改获批智能体名单"。
塔吉特表示,任何其他代理型商业工具"均属未经授权,明确被禁止,且在任何情况下均不得用于访问、登录、抓取、查询或以其他方式与本网站互动或收集数据,无论是直接方式还是通过API调用、自动使用用户凭证或其他手段",并且未经塔吉特书面明确批准,经授权的智能体不得与未经授权的智能体组合使用。
降低风险
尽管分析师和顾问普遍认为,预计未来将有更多企业封锁外部机器人访问,但他们对于此类封锁是否会实质性削弱自主智能体的价值(尤其是在购物、订票或执行相关管家式服务方面)看法不一。
Dickson Research首席分析师弗兰克·迪克森表示:"封锁并不会摧毁智能体的价值,它只是将价值转移了。每一道墙最终都会开一道门,而这道门是要收费的。"
他指出,美联航自身的措辞已经透露出这一点:声明中禁止的是"未经授权"的智能体,这为经过授权的智能体留出了空间。"预计智能体访问权限将通过企业可控的渠道、以企业设定的条件重新开放,"他说,"谁拥有智能体,谁就拥有客户关系。航空公司花了多年时间把客户从第三方旅行网站拉回来,它们绝不会把这种关系交给别人的聊天机器人。"
他补充道,企业的真实目的其实是降低风险。
"企业并不害怕机器人,它们害怕的是无人承担的责任,"迪克森说,"一旦规则明确规定哪些步骤必须由人类完成,哪些步骤可以由智能体完成,以及每一步如何记录,法务总监就能批准相关部署。模糊性才是让机器人止步于试点阶段的真正原因。"
他指出,面对数量无限的各类智能体来访,这种复杂性风险过高。
"大量的智能体意味着大量的请求,每一个请求都要有人来承担成本,"他说,"每个新来的智能体都有自己的一套登录方式、对客户授权内容的理解方式,以及对自身行为的记录方式(如果它记录的话)。航空公司不可能为每一个智能体都单独开一道门,也没有人应该期望它这样做。在市场尚未稳定之前先说'不',是一种合理的风险决策。反复查询价格的机器人并不会带来更多座位的销售。"
Digital 520首席顾问诺亚·肯尼补充说,美联航的这项禁令没有任何不利之处。
"美联航目前所处的局面是:风险相当可观,商业回报并不确定,而且几乎没有竞争压力迫使其接受这两者中的任何一个,"他说,"在这种情况下,它们完全可以选择等待机器人行为所带来的法律后果变得更加可预测之后,再考虑开放。"
需要设定边界
肯尼表示,他最担忧的问题之一是目前缺乏对机器人行为能力的有效限制。
"我在企业AI部署中看到的最大错误之一,就是让智能体获得远超其实际职责所需的信息和系统访问权限,"肯尼说,"一个被指示'只能访问一个系统'的智能体,和一个'技术上根本无法访问其他系统'的智能体,二者之间存在本质区别。我们不应该赋予智能体广泛的权限,然后指望它们能够自我约束。"
正因如此,咨询公司Acceligence首席执行官贾斯汀·格里斯表示,他预计会有更多公司在建立相关管控机制的同时,对机器人实施限制,他指出:"大范围的封锁将削弱智能体的价值,因为它们将无法跨服务完成任务。"
他补充说,对客户进行机器人相关现实情况的教育同样会很有帮助。
"人们需要明白,即使自己从未亲自点击'购买''发送'或'确认'按钮,通过智能体授权采取的行动仍然可能为自己带来相应的责任,"格里斯说,"我预计这将带来一场相当深刻的文化转变:就像人们在网络上可能会说一些自己绝不会当面说出口的话一样,智能体也可能在人的选择与其责任感之间制造出类似的疏离感。"
