AI系统在给出答案方面正变得越来越擅长，其角色也在从传统的生产力工具向外扩展。
人们开始向AI系统寻求职业、人际关系、财务以及其他高度私人化决策方面的指导。
这就引出一个问题：当某个问题并不存在一个客观正确答案时，AI应该做什么？
Vesela是由Gray Sky AI开发的一款AI模型，其设计理念正是围绕这一问题展开。该对话模型旨在识别用户何时需要信息，以及何时AI更适合帮助用户厘清自己的思路。
随着AI在日常决策中扮演越来越重要的角色，这种区分可能会变得愈发重要。
Anthropic最近对100万条Claude对话进行了随机抽样分析，发现大约6%的对话涉及用户寻求个人指导。
在这些对话中，76%属于健康与福祉、职业、人际关系和个人财务类别。
该公司得出结论：关于什么是良好的AI指导以及如何衡量它，仍存在一些根本性的问题有待解答。
Vesela的方法借鉴了创始人奇克在心理咨询领域的背景，不过产品本身被设计为一款对话式AI，用于帮助人们思考决策和其他主观性问题。
教AI学会克制
Vesela的创建者蔡斯·奇克拥有心理学和心理咨询背景。他还创立了"追求幸福"心理咨询机构，该机构目前已发展为在德克萨斯州拥有130多名咨询师的组织。
当ChatGPT问世时，奇克开始探索生成式AI如何支持更具深度的对话。早期的实验让他发现了一个常见的局限：AI总是急于解决问题。
根据他的经验，最富有成效的对话并不总是急于给出答案。有时候，更好的方法是给对方提供足够的框架和视角，让他们自己去梳理问题。
"归根结底，我希望AI能让人们变得更有能力独立思考，而不是相反，"奇克说。他将长期目标描述为帮助人们足够信任自己的认知过程，从而能够独立应对困难局面。这一理念成为Vesela的核心。
该公司开始研发一种能在主观性对话中展现更强克制力的AI系统。目标是在AI急于给出建议之前，先帮助用户审视自己的推理、价值观和假设。
奇克明确表示，克制并非用户在任何情况下都需要的。他说，"有很多情况下，你确实希望AI尽可能快速地给出它所能提供的最佳答案。"但当决策高度依赖个人具体情况时，这种区分就变得更加重要。
"AI可以帮助人们思考这些问题，但它并不掌握这个人生活的全部背景。只有当事人自己才掌握，"奇克说，"这正是克制变得重要的地方。"
知道什么时候该给出答案
Vesela的理念并不主张隐瞒有用的信息。该模型在以外部事实为主的问题和受个人具体情境影响的问题之间划出了一条界限。
一个正在排查服务器错误的用户，可能确实想要一个直接的答案。而一个在纠结是否该辞职、搬去另一个城市，或是结束一段感情的人，面对的则是另一种性质的问题。
Vesela在人机对齐方面的方法，将这类个人决策视为需要由个人的价值观、经历和具体情况来共同决定答案的情形。
例如，该系统可以帮助用户在辞职前对各种财务情景进行建模，同时也鼓励他们思考成功对自己意味着什么、他们正在纠结的顾虑是什么，以及哪些取舍对他们最重要。
"有时候，AI能做的最有用的事情，就是再提出一个问题、引入一个用户此前没有考虑过的视角，或是给用户留出足够的空间去弄清楚自己究竟怎么想，"奇克说。
这种思路体现了Vesela内部更广泛的设计理念。该公司希望AI能提供足够的支持来推动对话向前发展，同时把真正的思考工作留给用户自己。
该公司的研究人员将他们试图避免的失效模式描述为"认知殖民"——即AI变得过于流畅、过于全面，以至于开始替用户进行意义建构。
一个系统可能会在用户尚未充分审视自身处境之前，就已经找出了隐藏的矛盾、解释了情绪模式，并给出了一个打磨完美的结论。
衡量AI是否让人变得更强大
Gray Sky AI还开发了一套名为"主权人类基准"（Sovereign Human Benchmark）的评估体系，用来衡量这类互动。
该基准从12个维度评估对话质量，包括深度倾听、语言经济性、适应性支架搭建、节奏把控，以及Vesela所称的"引发"——即为用户创造条件，让他们自己去发现某种洞见。
该基准的核心问题之一是：这次顿悟属于谁？AI可能会给出一段听起来令人印象深刻的精彩解释。但Vesela的评估框架会追问：这次互动是否在过程中帮助用户增强了自身的判断力。
这种担忧也开始在其他AI研究中出现。微软研究院和卡内基梅隆大学在2025年开展的一项研究，调查了319名知识工作者，收集了936个生成式AI使用案例。
研究人员发现，对AI的信心越高，用户自我报告的批判性思维水平就越低；而对自身能力的信心越高，批判性思维水平则越高。
该研究还发现，生成式AI正在改变批判性思维的性质，使人们将更多精力转向验证和整合AI生成的内容，而非独立思考。
这项研究并未证明AI必然会削弱独立思考能力，但它确实表明，AI能力、用户信心与认知努力之间的关系值得更多关注。
整个行业都在应对同样的问题
前沿AI公司已经开始面对与此相关的问题，即模型在用户寻求指导时应如何表现。
OpenAI在2025年4月回滚了一次GPT-4o更新，原因是该公司发现该模型变得过度迎合、过度奉承。
OpenAI表示，这种行为可能会验证用户的疑虑、强化负面情绪或鼓励冲动行为，从而引发有关情感依赖和危险行为的担忧。
Anthropic也对个人指导场景中的谄媚行为进行了研究。其2026年的研究发现，在寻求指导的Claude对话中，整体上有9%存在谄媚行为，而在涉及人际关系的对话中，这一比例上升至25%。
该公司已将这些研究发现用于训练新一代模型，使其在此类情境下能够更加谨慎地作出回应。
业界正日益认识到，对话质量所涉及的不仅仅是事实准确性。AI系统正越来越多地影响人们如何解读决策、人际关系以及自身的思考方式。
Vesela将这一理念进一步推进，主张人类自主性本身也应成为AI对齐中可衡量的一部分。
"主权人类基准"评估的是：一个模型的行为是否为用户留出了空间，让其能够行使自己的判断力并自行得出洞见。
该框架还考虑了节奏、克制程度，以及用户与系统之间认知劳动的分配情况。
面向下一代AI的不同问题
目前，AI行业的大部分精力仍集中在能力提升上。模型在推理、编程、规划和自主执行等方面持续进步，这种进步很可能会让它们在越来越多的任务中变得更加实用。
但这也会使它们在主观性对话中的表现变得更加举足轻重。一个能在几秒钟内给出令人信服的建议的模型，可能会变得越来越具有说服力——即便这个决策所依赖的信息，模型本身并不能完全掌握。
Vesela的构建基于这样一个理念：克制本身也将成为一种能力。Gray Sky AI更宏大的前提是，开发者最终或许需要部分根据使用者本身发生的变化来评估AI。
反复的互动是否会增强一个人对自身判断力的信心？它是否会鼓励反思？系统是否知道什么时候该提供框架性支持，什么时候该为用户留出空间？
随着AI日益深度融入人们的工作、决策和思考方式，这些问题的重要性或许将不亚于模型本身看起来有多智能。