人工智能
十多年前，我主导了美国一座核电站全数字化控制系统的控制设计，这是同类项目中的首创。从纸面上看，这套系统堪称完美——它能像现代客机一样自主运行，操作员只需在旁监督，几乎不需要亲手干预。然而，我们做出了一个在效率至上者眼中看似"倒退"的决定：在系统本可独立执行的操作序列中，我们刻意保留了若干手动步骤。
我们要解决的是一个具体问题：如果操作员只需监督自动化系统运行，他们会逐渐丧失真正的操控能力。双手会生疏，对设备实际运行状态的感知会模糊。而一旦某天自动化系统将控制权交还人类，往往意味着出了问题——因为自动化只会在遇到麻烦或无从判断时才会退出。但此时，坐在操控台前的人已经多年未曾真正操作过这套系统了。那些手动步骤的存在，正是为了让人保持真实的操作状态。这种低效是经过深思熟虑后的刻意设计。
那座核电站最终没有建成，因为与工程本身毫无关系的政治与经济因素，它被搁置了。但这一设计理念却在项目终止后依然留存于我心中。如今，每个会议室里都在热议同一个问题：当AI承担起过去那些磨炼人才的工作，人类的专业能力将何去何从？我认为，这一设计直觉正是我能给出的最有价值的答案。
AI正在打破工程领域的职业成长阶梯
相关数据已难以回避。哈佛大学的一份工作论文覆盖了逾28万家美国企业的约6500万名员工，研究发现：企业引入生成式AI后的六个季度内，初级岗位就业人数相较于未采用AI的企业下降了约9%，而高级岗位的就业人数却持续增长。斯坦福大学对ADP薪资数据的分析也指向同一结论：2022年末之后，AI渗透程度最高的职业中，年轻员工的处境明显恶化，而经验丰富的同行则基本未受影响。斯坦福研究人员还发现，就业损失集中在AI取代人工的领域；在AI仅作为辅助工具的领域，初级岗位的就业情况则基本持平甚至有所改善。
其中的因果关系仍有争议，坦诚地说必须承认这一点。纽约联储的研究人员将应届毕业生失业率上升的主要原因归结于远程办公，而非AI——企业不愿意招募那些无法在远程环境中接受培训和指导的新人。但两种解释有一个共同点：无论是AI吸收了原本用于培养人才的工作，还是远程办公切断了传帮带的纽带，两者描述的都是同一条断裂的链条——专业能力从资深人员向初级人员传递的学徒制通道。无论哪种情况，"入门级岗位"都已悄然变成了"要求三年工作经验"。
剥去种种干扰，核心问题其实简单得令人不安：不经历初级阶段，就无法成长为高级工程师。专业能力不是可以下载的文件，它是通过无数次失败的构建、走投无路的调试，以及那些"这玩意儿怎么突然跑通了"的困惑时刻积累而来的。而一个能力出众的AI，会大方地替新人省去这一切。省去得足够多，你培养出的一代人或许能在纸面上监督模型运行，却从未发展出那种直觉——那种在模型自信地走向灾难性错误时，能够察觉异样的本能。
大多数评论止步于诊断，或是诉诸政策解决方案，将初级岗位的消失视为单纯的经济问题。但这同时也是一个工程问题，而安全攸关的行业已经用几十年的经验摸索出了应对之道。
航空业关于自动化悖论的教训
我的职业生涯从自动化的最前沿起步。毕业后的第一份工作，是为一款战斗机数字式发动机控制器的软件进行验证与确认——这套控制器能以人类飞行员无法企及的速度，决定发动机对操控指令的响应方式。即便在那个年代，也就是20世纪80年代末，核心矛盾已经清晰可见：在常规情况下，机器的表现优于人类；但在机器未曾预料的情况下，人类是飞机与灾难之间的最后一道防线。这一矛盾被称为"自动化悖论"——自动化能力越强，操作员获得的实际操练就越少，而留给他们独自应对的，往往是最棘手的险情。
航空业一次又一次地用沉重的代价，印证了人类技能在这一空档中退化的后果。最典型的案例是2009年坠入大西洋的法国航空447号航班。直接原因并不复杂：结冰的空速传感器向自动驾驶仪输入了错误数据，自动驾驶仪随即按照设计执行断开操作，将飞机控制权交还给机组人员。接下来发生的，不是硬件故障，而是能力失效。一个本可挽救的局面，演变为无法挽回的悲剧——那些习惯于坐看自动驾驶仪操控飞机数千小时的飞行员，无法识别高空气动失速的状态，也无法靠手动操控脱离险境。飞机本身运转正常，但被自动化悄然侵蚀的那部分技能训练，已然失效。
航空业的应对之道颇具借鉴意义，与我们在核电控制室里做出的选择如出一辙：不是拆除自动驾驶仪，而是刻意将手动操作训练重新纳入体系。2017年，美国联邦航空局发布了《运营商安全警示》第17007号文件"手动飞行操作熟练度"，明确指出"手动飞行是所有其他技术飞行技能的基础"，正式将技能退化列为独立的安全隐患。部分航空公司随即修订了操作程序，在条件允许的情况下，鼓励飞行员手动操控初始爬升和初始下降阶段，以损失一点燃油效率为代价，换取机组核心飞行技能的保鲜。这笔交换，正是问题的关键所在。一套运转完美却培养出不称职操作员的系统，根本谈不上完美——它只是把失效模式转移到了电子表格看不见的地方。
手动关卡或可守护工程技能
将航空业的教训与核电控制室的直觉并排审视，两者共同指向一种设计模式——在AI辅助的工作流程中，我们亟需引入刻意设置的"手动关卡"。
所谓手动关卡，是工作流程中人类亲自接手操控的节点。设置它不是因为这样最高效，也不仅仅是作为安全联锁机制，而是专门用来锻炼和维护那些一旦停止使用就会退化的技能。其核心特征在于：它是主动选择的结果。你作为设计者，决定哪些能力必须在人类身上保持鲜活——因为那些正是在最坏的一天你将不得不依赖的能力。然后，你刻意设计出必要的摩擦，让这些能力保持温热。
设想这套方法在一个高度依赖AI生成代码的软件团队中如何落地。团队在最不能承受损失的技能周围设置手动关卡：调试能力。当核心模块出现缺陷时，负责处理的工程师——往往是初级工程师，这是刻意安排——必须首先在关闭AI辅助工具的情况下，复现故障、追溯根因，并编写能捕获该缺陷的自动化测试。只有在工程师提交了自己的诊断结论之后，AI才重新介入：提出修复方案、生成备选方案，并在整个代码库中扫描类似问题。工程师随后将自己的诊断与模型的分析进行比对。当两者出现分歧，这套设计就发挥了作用——它把分歧暴露在最坏的一天到来之前，而不是等到问题爆发时才浮出水面。
这套做法从根本上重新定义了初级工程师的价值。如今的惯性思维是：让AI承包入门级工作，因为更快、更省钱。但其中某些工作并非应当被消除的额外开销，而是培育未来高级人才的训练装置，应当像保护任何关键基础设施一样加以保护。这或许在当下这个季度并不高效，但悄无声息地拆除它，等于在用未来十年的能力储备换取眼前的利润。
为何企业必须坚持培养初级工程师
以上这一切都是有代价的，假装没有成本只会侮辱那些需要为预算签字的人。从结构上看，刻意设置的手动关卡，在短期内必然比全面自动化的效率更低。让初级人员承担基础性工作、维持手动操作序列，眼下需要付出成本，换取的是未来的保障。
在一个用季度业绩衡量大多数管理者的市场里，这并不好卖。一位被外聘的高管，如果保留了AI本可取代的"冗余"人力，早在收益兑现之前就会被董事会问责。只有对这种压力具有一定免疫力的人，这笔账才算得过来：手握控制权的创始人、私营企业、真正着眼长远的机构，或者愿意强制要求从业者定期证明技能水平的监管机构——就像飞行员所面临的那样。这意味着，最有可能守住自身专业能力的组织，是那些在结构上有能力用短期利润换取长期能力积累的组织；其余所有人，则需要来自外部的推动力。
所以，核心论点可以浓缩为一句话：刻意的低效不是浪费。在安全攸关的工程领域，我们一直将它视为保险，并且是主动购买的保险。随着AI接管那些磨炼专业能力的工作，明智之举不是抵制自动化，而是在设计层面让人类的双手始终握住操控杆——这样，当自动化终将失效的那一天到来时，座椅上坐着的人，依然知道如何驾驶。
Q&A
Q1：什么是"自动化悖论"？它在工程领域有什么影响？
A：自动化悖论是指，随着自动化系统能力不断增强，人类操作员获得的实际操练机会越来越少，而当自动化失效时，留给人类独立应对的却往往是最复杂的紧急情况。在工程领域，这意味着长期依赖自动化的操作员会逐渐丧失核心技能，一旦系统出现异常并将控制权交还人类，操作员可能因技能退化而无力应对，法国航空447号航班事故正是这一悖论的典型案例。
Q2：什么是工作流程中的"手动关卡"？企业该如何应用？
A：手动关卡是工作流程中刻意设置的节点，要求人类在不借助AI辅助的情况下亲自完成特定任务，目的是维持关键技能不因长期不用而退化。企业可以在最关键的能力环节设置这类关卡，例如在软件开发中，要求工程师在独立完成故障诊断后才能启用AI辅助工具。这种做法短期内会降低效率，但能确保团队在AI失效时仍有人具备真正的处置能力。
Q3：AI普及是否会导致初级工程师岗位消失？有哪些数据支撑？
A：目前的研究数据显示出明显趋势。哈佛大学一份涵盖6500万名员工的工作论文发现，企业引入生成式AI后六个季度内，初级岗位就业人数下降约9%，而高级岗位持续增长。斯坦福大学的分析也表明，AI渗透程度高的职业中，年轻员工的就业状况明显恶化。研究还指出，岗位损失集中在AI完全取代人工的领域，而非AI仅作辅助的领域。
