OpenAI近期对其Codex CLI进行的更新引入了一项新协议,该协议似乎将更多编排决策从用户自定义配置转移至运行时处理,促使开发者纷纷要求提升对AI智能体之间指令交互的可见性。
在一份详细的GitHub合并请求中,用户指出,集成了Multi-Agent V2协议的CLI架构不再公开父智能体与子智能体之间传递的指令,导致难以检查任务在系统中的委派方式。
"Multi-Agent V2目前通过常规工具参数和智能体间上下文来路由智能体指令。这意味着父模型可以输出明文任务文本,Codex可以将其保存在历史记录或回滚日志中,而接收方则以普通的assistant-message JSON格式收取。"该请求写道。
"此次变更修改了V2路径,使智能体指令在模型调用之间保持加密状态:Responses对模型返回的message参数进行加密,Codex仅转发加密后的密文,Responses在内部为接收方模型进行解密。"请求进一步补充道。
其他用户在该帖子的评论中也表示,智能体指令可见性的缺失源于近期引入的Multi-Agent V2协议。有用户指出,回退到旧版CLI可以恢复可见性,但这只是一个临时解决方案。
此外,支付服务商Zolvat的首席技术官Ignat Remizov在GitHub上提交了一项功能请求,旨在提供一种可描述为永久修复的方案。他表示,OpenAI引入此项变更可能是出于增强安全性的考量。
"一种可行的方案是:保留用于模型传输的加密message字段,同时增加一个独立的非加密审计字段,用于存储可读的任务文本。该审计字段应持久化保存在回滚记录、历史记录或追踪元数据中,以便用户和维护人员无需解密模型传输密文,即可检查委派的任务内容。"Remizov写道。
尽管一位OpenAI贡献者表示该协议仍在开发中,并拒绝对该请求进行进一步修改,但分析师警告称,如果这一问题持续存在或成为多智能体系统的长期特性,将为开发团队及其所在企业带来调试、治理和运营方面的挑战。
"隐藏的智能体指令降低了多智能体系统的可观测性。开发者无法再判断故障究竟源于错误的任务委派、编排不当还是模型推理问题,这大大增加了调试、提示词优化和根因分析的难度。智能体指令追踪记录正在成为现代软件中与应用日志同等重要的基础设施。"Pareekh Consulting首席分析师Pareekh Jain表示。
Jain还指出,对于首席信息官而言,不透明的智能体交互同样带来治理层面的挑战。
"如果无法了解智能体如何委派和执行任务,就很难对决策进行审计、调查事故、证明合规性,以及建立对AI系统的信任。企业将越来越期望实现安全且可审计的智能体通信,而不是完全不透明的编排机制。"Jain说道。
"任何大型企业,尤其是银行、医院等受监管行业,都需要能够证明其AI系统做了什么、为什么这么做,特别是在出现问题时。如果一个子智能体做了不当操作,比如访问了私有数据,企业必须能够证明它收到了什么指令。如果这份记录不存在,不仅令人头疼,更是信任与法律责任层面的严重问题。"Jain补充道。
此外,Jain还指出,智能体操作可见性方面的问题甚至可能拖慢关键任务AI系统的生产部署进程。
"正如我们在GitHub上看到的开发者反应,企业在信任自主多智能体系统之前,很可能会要求更强的可观测性、审计追踪能力和治理机制,这几乎与模型性能同等重要。"Jain补充道。
记者就协议相关计划变更向OpenAI发送了电子邮件询问,截至发稿尚未收到回复。
Q&A
Q1:OpenAI Codex CLI的Multi-Agent V2更新具体改变了什么?
A:Multi-Agent V2协议改变了智能体指令的传递方式。在旧版本中,父智能体与子智能体之间的指令以明文形式传递,开发者可以直接查看。更新后,这些指令在模型调用之间被加密处理,Codex只转发密文,接收方模型由Responses模块内部解密,开发者无法直接看到指令内容,导致系统可观测性大幅降低。
Q2:开发者提出了什么解决方案来应对智能体指令不透明的问题?
A:Zolvat的CTO Ignat Remizov在GitHub上提交了一项功能请求,建议在保留加密的model delivery字段的同时,增加一个独立的非加密审计字段,用于存储可读的任务文本。该审计字段应持久化保存在回滚记录和追踪元数据中,让用户和维护人员无需解密即可查看任务委派内容,兼顾安全性与可审计性。
Q3:智能体指令不透明对企业会带来哪些实际影响?
A:分析师Pareekh Jain指出,隐藏的智能体指令会带来多方面挑战:调试困难,无法判断故障是否源于任务委派错误;治理风险上升,难以审计决策和证明合规性;在银行、医院等受监管行业,企业需要证明AI系统的操作记录,若记录缺失将面临法律责任问题;此外还可能拖慢关键任务AI系统的生产部署进度。
