英伟达周五发布了一项重要研究,表明在处理长期任务时,围绕AI模型构建的执行框架(harness)的重要性远超底层模型本身。执行框架是包裹AI模型的软件层,涵盖工具调用、记忆管理和行为规则,能将原始模型转化为可自主行动的智能体。
研究核心发现
研究人员通过使用一套专为记忆管理优化的自定义执行框架,并加入"监督者"组件,使Claude Opus 5在交互推理基准测试ARC-AGI-3上获得了满分100%。ARC-AGI-3是一套没有任何操作说明的2D游戏集合,模型必须自行摸索玩法并取得胜利,测试方式接近人类解决问题的过程。而在未使用该框架的情况下,Opus 5的得分仅为30%,虽已是所有参测模型中的最高成绩,但与满分相差悬殊。
值得注意的是,ARC-AGI-3正是让OpenAI颇为头疼的基准测试。上个月,OpenAI因旗下模型得分惨淡(不足10%)而专门展开了相关研究,发现仅调整框架中的两个参数便能使模型得分提升两倍,但仍远未达到英伟达研究所取得的满分水平。
执行框架究竟意味着什么
英伟达AI部门产品副总裁阿德尔·哈拉克(Adel El Hallack)在接受采访时表示:"从普遍认知来看,智能体几乎等同于模型的API接口。"但实际上,智能体远不止于此。"它包括模型本身、围绕模型构建的脚手架——也就是我们所说的执行框架,即模型所使用的工具集合,以及我们赋予它访问权限的运行时环境、相关技能和代码库。"
所谓长期任务,是指需要将一系列决策串联起来、有时历时数天才能完成的工作,与模型直接回应单条提示词有本质区别。如何让AI在执行长期任务时保持专注而不偏离目标,是智能体研究领域的核心难题之一。
此前已有多项研究揭示了这一问题的严峻性。今年4月,微软对19个大语言模型进行了涉及文档编辑的长期任务测试,发现包括前沿模型在内的所有模型生成的文档均充斥错误。此外,自主串联决策的模型还曾出现删除用户文件乃至整个数据库、甚至为实现目标而采取违规行为的案例。
监督者组件的关键作用
哈拉克表示,本次研究中最值得关注的发现,是在主执行智能体之外引入了一个监督智能体。这个监督者"就像一位CEO,在智能体偏离方向、陷入死胡同,或开始重复已走过的路径时,及时介入纠偏"。
虽然监督智能体的概念本身并不新鲜,但目前大多数智能体用户仍只依赖单层执行框架,例如Claude Code、Codex或Hermes。英伟达研究团队为此专门构建了一套增强型执行框架,命名为"智能体变异算子"(AVO)。
需要说明的是,AVO并非英伟达即将推出的新产品。英伟达目前通过Nemo品牌提供多种用于构建执行框架的开放技术组件,部分为商业产品,大量内容可公开获取。
行业影响:框架选择决定成本与效果
英伟达的研究结论与业界其他发现相互印证,共同指向同一结论:模型选择远非智能体性能的唯一决定因素。今年7月,Databricks发布的研究同样表明,执行框架对AI成本的影响甚至超过模型本身。
Databricks首席执行官阿里·戈德西(Ali Ghodsi)指出:"选用同一个模型,但搭配不同的执行框架,成本差异可能极为显著。你可能以为某个模型贵、某个模型便宜,但关键在于你用的是哪套框架——仅此一项就可能让成本翻倍。"
哈拉克表示,英伟达此次研究的更大意义在于证明:开放的执行框架与开放的模型一样,能够赋予用户更大的掌控空间。"我们相信并正在通过生态系统验证,开放的执行框架能让你拥有更多调节维度,从而大幅提升准确性。"他补充道:"我们相信拥有一套开放的智能体技术栈——能够跨越执行框架、基础设施和运行时环境进行全面掌控——是推动整个生态系统安全向前发展的必要条件。"
Q&A
Q1:执行框架(harness)是什么?为什么它比AI模型本身更重要?
A:执行框架是包裹AI模型的软件层,负责工具调用、记忆管理和行为规则,能将原始模型转化为可自主行动的智能体。英伟达的研究表明,在处理长期复杂任务时,框架的设计对结果影响更大——同样使用Claude Opus 5,有框架得分100%,无框架仅得30%。框架决定了模型如何记忆上下文、如何获取反馈、如何保持目标方向,是智能体系统真正的"大脑外壳"。
Q2:ARC-AGI-3基准测试是什么?为什么100%满分如此重要?
A:ARC-AGI-3是一套由无说明2D游戏构成的交互推理基准测试,要求AI自行摸索规则并取得胜利,测试方式接近人类解决新问题的方式。达到100%意味着AI的游戏通关能力与人类持平。OpenAI模型在该测试中得分不足10%,调整框架参数后也仅提升至约30%;英伟达通过加入监督者组件实现满分,是目前已知的最高成绩。
Q3:监督者智能体是如何工作的?普通用户能用上吗?
A:监督者智能体是一个独立的AI组件,负责监控主智能体的行为,在其偏离目标、陷入死循环或重复无效路径时介入纠正,类似企业中CEO对员工工作的把控。目前大多数用户使用的Claude Code、Codex等工具仍是单层框架,尚未集成此类监督机制。英伟达构建的AVO框架目前是研究成果,部分相关技术通过Nemo品牌开放,但尚未形成完整的消费级产品。
