多年来,技术债务一直是软件行业最有用的概念之一。它为技术领导者提供了一种简单的方式来描述一种常见的权衡:团队可以通过走捷径、做妥协来快速完成开发,但最终必须回头收拾残局。所欠下的债务必须偿还——这是人们的普遍预期。总会有那么一个时刻,需要有人重构代码、补充文档、升级架构,或者修复当初为求速度而留下的漏洞。

但这套逻辑在AI身上不再适用。

AI改变了软件开发中风险的本质,因为“生成”变得太容易了。创建另一个应用或另一个智能体很容易,修改一个提示词、增加一个数据源、复制一个工作流、或者因为“看起来能用”就直接上线,都变得轻而易举。但真正困难的工作在于:决定什么应该存在、由谁负责、如何演变,以及当它不再可信或不再有用时该怎么办。因为与技术债务不同的是,这里并没有“未来一定会改进”的隐性承诺。团队生成的东西,可能压根就没打算回头再看。

技术债务意味着终究要偿还过度扩张的部分。而生成式蔓延,只会不断扩散,无人问津。

这正是CIO们即将面对的新战场:一层看似能用却缺乏治理的系统——大量工具足够好用到可以上线,却不够成熟到可以被真正拥有、维护、保障安全,甚至妥善下线。它们的形态也可能和CIO们熟悉的系统完全不同。它们可能起初只是一个提示词、一个低代码工作流、一次自动化操作,或者一个为狭窄任务配置的智能体。然而,只要有人依赖它们来运行业务,无论IT部门是否规划过,它们都可能悄然成为企业系统的一部分。

而这整件事最诡异的地方在于:失败有时看起来反而像是成功。一个解决了局部问题的应用,可能被另一个团队复制、修改,接入其他系统,并在没人问过“它是否应该被纳入企业级治理”之前,就已经变得不可或缺。也就是说,无数个从未被设计为可扩展的“成功案例”,本身就是对企业运营的一种风险。

这有点像影子IT的出现——当年团队需要工具的速度超过了中心化IT团队的交付能力。低代码和无代码平台扩大了能够构建应用的人群范围,在很多情况下——就像现在一样——这个方向本身是对的。而影子IT最终是通过围绕已构建内容的生命周期管理来控制的:规划、版本控制、测试、回滚、归属和治理。这也是为什么生命周期管理变得如此重要。

AI正在告诉我们,类似的时刻需要再次上演。如果说过去杂草已经丛生,那么生成式AI就像是往土壤里施了氮肥、又给足了阳光——它让这些“杂草”长得快得多。它正在以更快的速度、更低的可见性把企业推向失控的边缘。我们已经度过了企业AI的第一阶段——那个阶段的问题是“这项技术能否完成有用的工作”,而它已经证明了自己可以。下一个问题更难回答:一旦这些工作扩散开来,组织能否对其进行治理?

如今,生成式AI、无代码、低代码以及“氛围编程”(vibe-coding)工具赋予了人们制作成功演示的巨大能力。但在今天,一个成功的演示已经变得微不足道,它和一个真正的企业级系统完全不是一回事。一个能运行的智能体,不等于一个被妥善管理的应用。一个今天能帮人省下一小时的工作流,如果没人知道它归谁所有、涉及哪些数据、拥有什么权限、上线前是否经过测试,那么它明天就可能带来风险。

正是在这里,技术债务的类比开始站不住脚。对于技术债务而言,通常存在一个大家都认可的“资产”:代码、架构、基础设施、文档。它可能很凌乱,但确实存在。而对于AI驱动的系统,“资产”可能是各种事物的混合体——提示词、指令、上下文、连接器、数据源、权限、模型行为、人为假设等等,这份清单很长。其中一些可能存在于从未被设计为“软件”对待的地方。有些可能被随意修改过。有些可能压根从未被记录下来。

这是否意味着企业需要放慢AI应用的脚步?不一定。但这的确意味着,企业需要停止把“创建的便捷性”与“生产就绪状态”混为一谈。这也意味着,企业需要从一开始就专注于生成可治理的应用、自动化流程和智能体。

那么,该如何做到这一点?

专业开发者的代码库里,一直都有待办事项清单,用来标记需要回头修复的技术债务。这种做法在AI时代依然存在,但对于使用AI工具的非开发者来说,并没有这样的待办清单——你只会不断往前推进。因此,所需要的是一次重心的转移:从关注速度转向关注控制——不再只关心某样东西能多快被造出来,而是关心一年之后是否还有人能理解它是如何运作的、谁能访问它。这意味着需要提出一些重要的治理问题,比如“我们能否在变更影响运营之前先进行测试?”“这个系统中的决策是否可以被解释?”“谁拥有数据访问权限?”等等。在一个由AI构建的工作流从“实验”转变为“基础设施的一部分”之前,这些都是必须先回答清楚的关键运营问题。

如果做得当,治理能让组织更有信心地向前推进。团队应该能够自由构建和试验各种解决方案,AI也应该被允许让人们变得更有能力。但企业需要一个框架,来区分什么是有用的、什么已经具备投产条件、什么可以安全地进行规模化扩展。

AI生成的开发工作需要版本控制、审批关卡、测试与预发布环节,以及对依赖关系和权限的可见性。它还需要一种能够回滚变更的机制,以及明确的归属和审查周期。也许最重要的是,在某个时刻,它需要被正式下线。就像任何其他软件一样,那些不再有用、或风险过高的AI生成应用,绝不能被允许无限期地存在下去。

由AI驱动的民主化开发本身并不危险,但如果缺乏生命周期管理的约束,它所携带的风险就会不断累积。目标是给团队足够的空间去创造,同时让这些系统具备足够的持久性以适应企业需求——确保它们是安全的、被持续监控的、能够被改进的,并且最终能够被妥善下线。

企业级AI依然需要雄心——去构建、去改进的意愿和愿景——但它同样需要一套让每一个新系统都担负起责任的生命周期管理机制。最终能让AI在长期发挥作用的组织,将是那些既能快速构建,又能让所建之物保持可见、可治理、值得保留的组织。

Q&A

Q1:什么是生成式蔓延?

A:生成式蔓延指的是企业中大量由AI工具快速生成的应用、工作流或智能体,虽然能够正常运行,但缺乏治理、归属不明、无法被有效维护或退役,最终演变为企业运营中的隐性风险。

Q2:生成式蔓延和技术债务有什么区别?

A:技术债务通常有明确的资产(代码、架构等)且存在“未来偿还”的预期。而生成式蔓延涉及提示词、连接器、权限等多种混杂元素,很多从未被当作正式软件对待,也没有被改进或清理的隐性承诺,只会不断扩散。

Q3:企业该如何应对AI生成系统带来的治理风险?

A:企业需要为AI生成的应用建立版本控制、审批机制、测试与预发布流程,明确数据访问权限和归属,并具备回滚能力和定期审查机制,同时对不再有用或风险过高的系统及时下线退役。

CIO DIVE