过去几年，科技行业争相将新的芯片植入各类设备，似乎只要能加入AI就应该加入。智能视觉牙刷、能读懂情绪的家用机器人，以及大量其他实体产品正在涌入消费者的日常生活，依赖人工智能来学习、预测和调整人类行为。
但正如任何曾苦于升级冰箱固件的人所知道的那样，AI并不能改善每一种产品。一些产品设计师开始思考，真正的创新与"为解决方案找问题"之间的界限究竟在哪里。
萨凡纳·库诺夫斯基（Savannah Kunovsky）在旧金山设计咨询公司Ideo带领一支工业产品设计团队，专注于帮助客户厘清AI何时会成为障碍、而非突破口。
库诺夫斯基接受了《IEEE综览》的采访，谈到了在一切产品中整合AI的压力、这种整合在哪些地方出了问题，以及企业该如何判断AI整合究竟是不是明智之举。
AI何时让产品变差
当前这波将AI整合进实体产品的浪潮，有多少是受到投资者和股东要求跟上行业潮流的压力驱动？
库诺夫斯基：有一部分是这样。团队来找我们时，常常感受到要证明自己"正在做AI相关的事"的压力，有时是因为CEO已经向董事会承诺在下次财报电话会议前讲出一个"AI故事"，又或者是竞争对手刚刚推出了带AI功能的产品版本。
在所有这些情况下，我们做的第一件事都是先退一步，问清楚这个产品是为谁服务的，他们想要完成什么。一旦这一点明确了，AI应该扮演怎样的角色——无论是核心作用、辅助作用，还是完全隐形——通常就显而易见了。目前整个行业都渴望这种务实的思考方式。人们想要穿透炒作，看看在实践中真正奏效的是什么。
你如何区分一个真正有用的AI功能和一个噱头？
库诺夫斯基：判断AI是否是噱头的标准，和判断任何产品体验的标准是一样的：它是否帮助人们完成了他们想做的事？要回答这个问题，就需要理解人们在真实使用场景中会如何使用这个产品。
许多公司会直接盯上大语言模型，因为这是当下最受关注的技术，但实际上还有一整套AI工具可供选择：计算机视觉、传感器融合、设备端模型等等。为具体任务选择合适的能力，和决定是否要用AI本身同样重要。
作为一种新的交互范式，AI要求人们改变自己的行为习惯，所以它必须做到简单。当IDEO的前身公司在上世纪80年代初为苹果设计第一款鼠标时，团队只给它配了一个按键，因为人们正在学习一套完全陌生的系统，交互机制必须毫不费力。
可穿戴设备Humane AI Pin使用投影而非屏幕显示，相较于用户已熟悉的智能手机界面是一次剧烈的转变。
有哪些产品是AI让用户体验变差的例子？
库诺夫斯基：最明显的例子是那些AI取代了原本运作良好的东西的产品。我很敬佩Humane的AI Pin作为一种大胆尝试，但这项技术（一款无屏幕、用AI助手代替应用程序的可穿戴智能手机替代品）还没有准备好。AI Pin要求人们放弃一个他们已经非常熟悉的界面，去使用一个更慢、更不可靠的界面，这对任何人来说都是一笔艰难的交易。
类似的问题随处可见——语音助手听错了一个简单指令，关掉了错误的灯；客服机器人让你在循环对话里打转，而你只是想找个真人。在汽车里，空调和音量控制被移到触摸屏和语音菜单上，原本凭手感就能完成的操作，现在需要你的目光离开路面。欧洲新车安全评鉴协会（Euro NCAP）正因此开始奖励保留物理按键的车型设计。
人们喜欢某些产品，恰恰是因为它们是模拟式的。胶片相机、一把好用的厨刀或一本笔记本，其部分价值就在于那种工艺感以及完全掌控的感觉。
但这并不是非此即彼的选择。在智能家居中，你可以用语音助手关灯，也可以用App操作，或者直接按墙上的开关。拥有多种方式去达成同一个目标是好事，只要这不会为了"多样化"本身而增加不必要的复杂性。
能否分享一个你说服客户放弃某项AI实现方案的例子？
库诺夫斯基：有个客户想要一个没有旋钮的炉灶，你告诉AI你在做什么菜，它来管理火候。我们测试时，锅开始冒烟了，用户伸手去够一个根本不存在的旋钮，他们说了两遍"调小一点"，然后直接把锅从炉子上端了下来——这一切都发生在AI做出反应之前。不用说，我们最终保留了旋钮。
任何需要你瞬间、凭手感或在压力下完成的操作，通常最好保持物理形式：音量旋钮、电灯开关、炉灶火力、紧急停止按钮。在那些时刻，机械控制比一个需要先理解你意图的系统更快、更值得信赖。
迈向更好的AI产品设计
"好的"AI整合是什么样子的？
库诺夫斯基：企业往往一开始就考虑AI的技术可行性，因为这项技术实在太令人兴奋了。但理解人们真正的需求才是关键，其次才是技术可行性，以及对业务而言是否合理。
在此基础上，问题就变成了：AI应该扮演什么角色？有时它是体验的核心，比如一个让你能自然对话的语音界面。有时它在后台默默运作，学习你的偏好，这样你就不必重复输入同样的信息。无论哪种方式，衡量标准都是它是否帮助人们完成了他们本来想做的事。
你如何避免AI的加入让产品变得不直观或是负担？
库诺夫斯基：大语言模型以文本形式工作，所以人们的本能反应是给所有东西都配上一个聊天窗口。但如果你换个思路，先考虑具体的人和任务，界面的样子就可以完全不同。
实体产品可以通过文字之外的多种方式进行沟通——光线、声音、振动、动作，旋钮或按钮的手感。借助AI的智能可以让这些沟通方式变得更丰富。我最感兴趣的产品，是那些扩展了我们感知、理解或行动能力的产品，同时让我们始终处于体验的中心。
一些最清晰的例子出现在无障碍设计领域。助听器可以用AI在嘈杂的餐厅里把你想听的那个声音挑出来。像Be My Eyes这样的应用，能让盲人或视力低下的人把手机对准周围世界，听到对眼前景象的描述。耳机里的实时翻译功能，能让两个语言不通的人正常交谈。
主动式AI系统需要在不显得打扰的前提下预判用户的需求，就像一位优秀的餐厅服务员，会注意到你的水杯空了，或者能察觉出你是想聊天还是想独处。
当人们尝试新事物时，往往不知道该提出什么要求，所以一个能主动提供有用建议的产品，可以教会他们了解什么是可能的。我们正在看到一波个人智能体的浪潮，比如Instinct、Dots和Muse，它们在后台默默处理事务，然后带着新发现回来告诉用户。
相关性和时机最为关键。一个产品发声的"音量"应该与事情的重要程度相匹配，并且要根据人们的反应不断学习调整。如果有人一直在忽略某个提示，那就是一个该调整的信号。
生成式AI是非确定性的，同一次使用可能每次都得到不同的回应。这对传统的产品测试和设计构成了怎样的挑战？
库诺夫斯基：它改变了产品定义本身的样貌。在传统软件中，你写一份规格说明书，然后测试产品是否完全按照说明执行。而对于生成式AI，你无法规定每一个具体输出，你定义的是产品应该在其中运作的空间。
AI评估体系和"宪法"（指导模型训练的书面原则）已经成为大语言模型的一种新型产品定义方式。评估描述的是在成千上万种情境下"良好表现"应该是什么样子；"宪法"则设定了系统应恪守的价值观和边界。这些与模型的软件、配置和运行时基础设施一起，共同塑造了产品所存在的"容器"。把这一点做对，如今已经是核心设计工作，而不仅仅是最后阶段的工程环节。
当产品的响应是非确定性的时候，消费者信任就会面临压力。人们信任传统产品，是因为它们每次都做同样的事情。生成式AI则需要更强的设计意图，团队必须提前决定产品在哪些方面应保持一致，在哪些方面可以有所探索。产品应该向用户清楚表明自己当前处于什么模式，并在不确定时展示它正在做什么。
将人工干预和手动操作路径纳入AI系统有多重要？
库诺夫斯基：这是必不可少的。没有任何AI系统能做到每次都正确。如果人们可以轻松介入干预，一次失误就只是个小插曲。如果他们做不到，这就会成为人们不再信任这个产品的理由。
"干预"不仅仅指家用机器人或汽车上的紧急按钮，它也可以简单到撤销一个操作、编辑一条建议，或者关闭某个功能。
在我们开发Ethiqly（一款帮助学生梳理思路、而非替学生代写作文的AI写作工具）的过程中，教师会在学生看到之前，先审核每一条反馈意见。这种控制权有助于人们随着时间推移，逐渐愿意把更多事情交给系统处理。
手动操作路径应该是显而易见、快速可用的，并且在你需要的那一刻就能找到，而不是被埋在设置菜单深处。当人们知道自己始终可以拿回控制权时，他们就会更愿意让AI提供帮助。