Gartner预测，到2028年，全球财富500强企业平均将运行超过15万个AI智能体，而2025年这一数字还不到15个。
同一份报告发现，在360名受访者中，只有13%的人认为自己已建立了恰当的治理机制。这些组织中的大多数还没有回答一个基础性问题：当多个智能体协作产生某个引发问题的输出结果时，这个责任究竟由谁来承担？
在过去近两年的大部分时间里，企业AI治理领域的讨论都集中在一个问题上：谁该为模型产生的内容负责？这个问题本身已经够棘手了。而现在，情况变得更加复杂。
随着企业从部署单一AI工具转向协调运行由多个智能体组成的系统——每个智能体在工作流程的不同环节进行推理、决策和执行——责任归属的问题也随之成倍增加。大多数组织对此都没有明确的答案。而这种答案的缺失，并非仅仅是治理上的空白，它实际上构成了一种责任风险。
加利福尼亚州一项于1月1日生效的法律明确规定，被告不得以AI智能体的自主运行作为抗辩理由，来推卸其责任。
那些发现这一问题的组织，并非是行事鲁莽的企业。恰恰相反，它们是按照现行标准审慎行动的组织，只是没有针对这类新型系统更新相应的标准。当单个智能体产生有缺陷的输出时，责任链条是清晰可见的。但当三个智能体协作产生类似错误时，这条链条就变得模糊不清了——而且大多数企业治理框架在设计之初，就没有考虑过如何回答"结果由谁负责"这个问题。
我们从50%智能体团队运作中学到了什么
在我所在的组织，每一次新的客户项目启动时，都会确保至少有50%的工作由智能体与人类从业者共同完成，我们称之为"矩阵团队"。这一设计决策迫使我们必须在实践中、而非理论层面，去回答责任归属的问题。
首先明确的一点是，责任不能依附于系统本身，而必须落实到具体的人身上：不是某个团队，不是某套治理框架，也不是某个审查流程，而必须是一个有名有姓的人，对系统在交付给客户之前产生的每一项输出负责，无论这其中涉及了多少个智能体。这个人必须在部署开始之前就已确定。如果你说不出这个人是谁，那就说明你还没有准备好进行部署。
其次明确的一点是，智能体之间的交接环节，其设计的严谨程度应当不亚于智能体与人类之间的交接。在一个多智能体工作流程中，每个智能体做出的决策都会限制下一个智能体所能获取的信息范围。如果第一个智能体做出了欠佳的判断，第二个智能体可能根本没有足够的信息去发现这个问题。等到输出结果最终抵达人类审核者手中时，错误可能已经通过若干个后续环节被层层放大。
我们在"优雅交接"这一环节上投入了大量精力——也就是系统中任何一个环节意识到自己需要完整传递上下文信息，而不仅仅是传递任务本身的那个关键时刻。一份有价值的交接记录至少应当包含以下四项内容：
智能体当时试图完成的目标是什么。
它当时能够获取的数据是什么。
它赋予该输出结果的置信度水平是多少。
它采取了什么样的行动。
这正是决定交接记录质量高低的关键所在：一份好的交接记录能让人类迅速做出决策，而一份糟糕的记录则需要在行动之前进行一番彻底的重建还原。
审计追踪是系统架构，而非事后补救
大多数组织投入不足的治理环节，是审计追踪机制。它不应仅仅是最终输出结果的日志记录，而应是完整推理链条的记录。当多智能体系统出现问题时，你需要能够追溯到每一个决策节点。输出日志只能告诉你发生了什么，而推理追踪才能告诉你责任链条究竟在哪个环节断裂了。
在我们的项目实践中，我们会在部署之前就明确规定每个智能体边界节点需要记录哪些内容：输入信息、置信度信号、所采取的行动、发起的交接动作。没有这样的结构，事后复盘就只能沦为一场基于猜测的取证工作。
跳过这些步骤的组织通常不会立刻遭遇重大失败，而是会陷入一种缓慢的衰败过程：输出结果逐渐侵蚀信任，合规漏洞在数月之后才浮出水面，还有一些决策根本无法追溯到具体的责任人。
为了避免这样的结局，IT领导者现在应当着手做好以下三件事：
必须对每一个正在运行的智能体工作流程进行全面梳理，确认哪些流程中的每一项输出都有明确的责任人。如果答案指向的是一个团队或一套流程而非具体某个人，那么在该工作流程再次运行之前，就应当指定一名负责人。
审查每一个智能体交接节点的交接协议。如果这些协议尚未形成书面文件，现在就应当着手记录下来，不要等到出现生产故障之后才发现这个漏洞。
审查当前日志记录系统在每个智能体边界节点所捕获的内容。如果它只记录了最终输出结果，却未能捕获输入信息、置信度信号和推理步骤，那么就应当在系统扩展规模之前重新设计日志架构。在事故发生之后再去补建审计基础设施，其成本要远远高于一开始就将其纳入系统设计之中。
