捷径学习是现代AI系统中最持久、也最容易被误解的失效模式之一。
本文最初发布于SQUINT Cognition官网，现经SQUINT Cognition授权转载。
当模型在部署中表现异常时，人们往往用道德或流程层面的解释来归因：数据存在偏差、标签有误、训练过程不够谨慎。这些因素固然重要，但它们掩盖了一个更深层的事实。
捷径学习是神经网络学习方式所带来的一种自然的几何结果。
要理解为什么捷径学习如此难以被发现、调试和预防，我们必须停止将其视为表面问题，转而审视它真正存在的地方：潜在表示空间的几何结构内部。
捷径学习究竟是什么
当模型依赖的特征在训练数据中具有预测性，但与其本应解决的任务并不存在因果关系时，捷径学习就会发生。
典型案例包括：
医疗模型学习的是扫描仪的成像痕迹，而不是病理特征
视觉系统依赖背景或光照，而不是物体结构
语言模型利用数据集的格式线索，而不是语义本身
风险模型依赖与受保护属性相关的代理变量
从模型的角度看，这一切都没有"错"。梯度下降会奖励任何能最高效降低损失的方式。如果某个捷径特征能提供强信号，模型就会使用它，无论这个信号在训练分布之外是否仍然有意义。捷径学习正是优化机制按照设计正常运作的结果。
为什么捷径学习在表层不可见
捷径学习很少在汇总指标中显现出来。
在训练和验证阶段：
准确率在提升
损失在下降
置信度在增加
由于捷径特征在训练分布中确实具有预测性，模型表现看起来十分出色。特征归因方法往往会强化这种假象，将捷径特征标记为"重要特征"，进一步验证了模型行为的合理性。
问题要等到捷径失效时才会显现——当场景发生变化、代理变量消失、或者相关性不再成立时，系统就会突然崩溃。
捷径学习是一种几何现象
要理解捷径学习为何如此顽固，我们必须审视模型如何在内部对信息进行编码。
神经网络将输入转换为高维潜在表示。在这个空间中：
相似性对应于距离
决策边界划分出不同区域
模式会形成聚类
当某个捷径特征在训练中占据主导地位时，它会重塑这种几何结构。模型不再围绕稳定的、具有因果性的结构来组织表示，而是沿着捷径维度对输入进行压缩。那些共享捷径特征的输入会被压缩进紧密的聚类中，即便它们在真正的任务相关意义上存在显著差异。
结果就是一个看起来"干净"、却与现实脱节的潜在空间。
几何结构如何揭示捷径学习
捷径学习会留下独特的几何特征：
围绕捷径特征而非因果结构形成的人为紧密聚类
当捷径被移除后便会消失的低簇内方差
与代理特征对齐、而非语义区分对齐的决策边界
在场景稍有变化时就会崩溃的脆弱分隔
当捷径信号减弱或消失时出现的稀疏支撑区域
这些特征在输入空间中不可见，在输出行为中往往也不可见。只有审视表示空间的结构时，它们才能被观察到。
捷径学习不是"用错了特征"，而是"用错了几何结构"。
为什么特征归因无法解决捷径学习问题
特征归因试图将决策追溯到输入特征。而在捷径学习存在的情况下，归因方法往往"表现得太好了"——它正确地识别出捷径特征具有影响力，因为它确实如此。
但归因方法无法回答这些关键问题：
这个特征在结构上是否脆弱？
依赖这个特征是否定义了潜在空间中的一个高风险区域？
当场景发生变化时，这种几何结构是否仍然稳定？
归因能解释是什么影响了决策，却无法解释这种影响是否安全。
捷径学习不是特征层面的问题，而是表示层面的问题。
为什么增加数据无法消除捷径
面对捷径学习，一种常见的应对方式是收集更多数据。虽然额外的数据确实有所帮助，但很少能彻底解决问题。
如果捷径特征在扩充后的数据集中仍然具有预测性，模型就会继续使用它。更糟糕的是，增加更多数据反而可能强化捷径，使几何结构更加依赖于这个代理特征。
消除捷径不仅需要更多数据，还需要理解表示是如何被构建的，以及这种结构是否与任务的真实语义相符。
捷径学习与部署失效
由捷径驱动的几何结构在设计上就是脆弱的。
当环境发生变化时：
扫描设备升级
人群分布不同
光照条件变化
数据格式改变
捷径信号会减弱或消失。原本紧密聚集的潜在空间区域会分散开来。决策边界失去意义。表示落入稀疏、不稳定的区域。从外部看，失效显得十分突然；但从内部看，这种几何结构其实一直都很脆弱。
这正是捷径学习成为部署失效的主要原因之一，这类失效：
难以预测
难以调试
难以复现
为什么传统防护措施无法捕捉捷径学习
大多数防护措施都在输出层面运作：
准确率检查
校准指标
输入层面的漂移监控
捷径学习并不会触犯这些信号，直到为时已晚。只要捷径依然有效，模型看起来就是健康的。系统没有办法发出"你的表示几何结构已经与现实脱节"这样的警报。
系统本身并不理解自己为何成功，因此也就无法识别这个成功的理由何时失效。
从捷径检测到认知感知
防止捷径驱动的失效，需要从基于结果的评估转向基于表示的推理。
传统方式会问：
模型准不准？
而认知系统则会问：
模型依靠什么结构来实现准确，这种结构在变化中的稳定性如何？
这种思路的转变，使得捷径学习能够在造成失效之前就被检测出来。
SQUINT Cognition如何让捷径学习变得可见
SQUINT Cognition的设计目标就是让捷径学习的几何结构浮现出来。
在开发阶段，SQUINT会分析潜在表示，以：
识别由代理特征驱动的聚类
衡量表示对特定相关性的依赖紧密程度
检测表示结构与任务语义之间的不一致
将这些区域与历史上的脆弱性关联起来
这些洞察会转化为可操作的知识。
在运行阶段，SQUINT的认知监控机制会监测新输入是否正在经过潜在空间中由捷径主导的区域。当检测到系统正依赖某种脆弱的几何结构时，SQUINT会在捷径失效之前进行干预。
系统可以：
升级到更稳健的模型
推迟决策
调整运行行为
将该决策标记供人工审查
捷径学习不再是隐藏的隐患，而是变成了一种可被管理的风险。
为什么这对可信AI至关重要
捷径学习会削弱信任，因为它让系统"因错误的理由"而成功。只要这些理由始终隐藏不可见，失效就永远会显得突如其来。
可信AI并不要求彻底消除捷径，而是要求能够识别捷径何时被使用，并理解该捷径在当前场景下是稳定的还是脆弱的。
结语：捷径不可避免，盲目却可以避免
在复杂环境中的优化过程中，捷径学习是一种不可避免的结果。神经网络总会利用它能获取到的最强信号。
危险之处不在于捷径的存在，而在于系统对这些捷径所创造出的几何结构一无所知。
将捷径学习理解为一种几何现象，揭示了为什么如此多的失效事后看来是可以预见的，但事前却完全不可见。这也揭示了前进的方向。通过让表示几何结构变得可见且可操作，认知型AI将捷径学习从一种看不见的风险，转变为一个可控的因素。
这正是"仅仅能够执行"的系统与"理解自己为何能够执行"的系统之间的区别，也是SQUINT Cognition将捷径学习视为一种需要治理的结构，而非一个需要消除的错误的原因所在。
Q&A
Q1：什么是捷径学习？
A：捷径学习是指模型依赖的特征在训练数据中具有预测性，但与任务本身并不存在真正的因果关系。这是神经网络优化过程中的自然结果，而非简单的错误，因为梯度下降总会利用能最高效降低损失的信号。
Q2：为什么增加训练数据不能解决捷径学习问题？
A：如果捷径特征在扩充后的数据集中仍然具有预测性，模型会继续依赖它，甚至可能因为数据量增加而进一步强化这种依赖。真正解决问题需要理解模型内部表示的结构，而不只是简单地堆叠数据。
Q3：SQUINT Cognition是如何检测捷径学习的？
A：SQUINT Cognition通过分析模型的潜在表示空间，识别由代理特征驱动的聚类、衡量表示对特定相关性的依赖程度，并在运行时监控新输入是否经过捷径主导的脆弱区域，从而在捷径失效前进行干预。