亚马逊网络服务公司(AWS)旗下Strands Labs团队一直在研究一类新兴的轻量级人工智能系统,即"决策模型",目前该团队已将这项研究成果向开源社区开放。

该公司今日宣布推出一款名为Strands Decider 2B的开源决策模型,其设计目标是通过省去文本生成环节来实现快速决策,因为生成文本会消耗大量Token并增加响应延迟。

Strands Decider 2B针对本地部署和快速实验进行了优化,开发者可以在自己的笔记本电脑以及公共云环境中下载并运行该模型。AWS表示,通过为开发者提供专用的决策引擎,公司希望能够更广泛地加速智能体AI的发展进程。

决策模型也被称为"系统1模型",与人们熟知的、或爱或恨的大语言模型截然不同。大语言模型通过生成文本、代码、图像或视频来响应输入,而决策模型则是在面对若干预定义选项时直接做出决策,不产生其他输出。每个决策都会被赋予一个置信度分数,以帮助用户判断该回答的可能准确程度。

省去文本生成环节意味着决策模型在速度和低延迟方面表现出色。每个回答所附带的置信度分数至关重要,因为这些模型缺乏文本生成能力,无法解释其决策依据。

尽管决策模型已经存在了一段时间,但它们直到几周前才开始受到关注,当时一家名为TypeSafe AI公司横空出世,并随后发布了Jev模型。该模型旨在做出软件和AI智能体可以直接使用的快速、结构化决策。Jev展示了决策模型的实用价值,但AWS团队认为它存在一些结构性缺陷。例如,其并行输出结构在要求执行复杂推理时会出现性能问题。

AWS决定尝试改进这一概念,Strands Decider 2B便是其首次真正的尝试。该模型构建于标准大语言模型之上,使用了Qwen3.5-2B的基础主干网络,但AWS将传统的"大语言模型头部"替换为一个极小的、定制化的"指针头部",其参数量仅为100万左右。该公司利用一个秩为16的LoRA适配器对Qwen3.5-2B主干网络进行了微调,以便直接根据答案位置对可选项的隐藏状态进行评分。

这家云计算巨头表示,其已对Strands Decider 2B进行了多次迭代,今日发布的版本仅命名为v.20。该公司表示,之所以选择20亿参数的规模,是因为他们认为这个规模恰好达到了最佳平衡点——既足够小巧,可以在延迟低于150毫秒的本地机器上运行,又足够强大,能够做出复杂决策。在基准测试中,Strands Decider 2B的表现确实不俗,AWS报告称,在JevBench测试中,与其他开源20亿参数模型相比,该模型在准确性和校准度方面均取得了高水平的表现。

该模型目前已可通过Hugging Face下载,完整的代码库、训练脚本和示例均可在其GitHub页面上找到。

AWS希望AI开发者社区能够试用Strands Decider 2B,加速模型路由、工具选择、上下文管理、护栏执行和策略分类等智能体任务。此外,该模型还为创建"混合智能体"铺平了道路,这类智能体将使用决策模型来做出简单重复性的选择,同时使用大语言模型来应对复杂的推理挑战。

Q&A

Q1:Strands Decider 2B是什么?

A:Strands Decider 2B是AWS旗下Strands Labs团队推出的开源决策模型,设计目标是通过省去文本生成环节来实现快速决策,从而加速智能体工作流中的任务处理。

Q2:决策模型与大语言模型有什么区别?

A:大语言模型通过生成文本、代码、图像或视频来响应输入,而决策模型则是在面对预定义选项时直接做出决策,不产生其他输出,每个决策都附带一个置信度分数。

Q3:Strands Decider 2B可以用来做什么?

A:开发者可以借助它加速模型路由、工具选择、上下文管理、护栏执行和策略分类等智能体任务,还可以创建结合决策模型与大语言模型的"混合智能体"。

SiliconANGLE