亚马逊云科技发布了一款开源决策模型,其灵感来源于TypeSafe公司的Jev模型。当前AI开发者越来越倾向于寻找更适合计算机自动化任务的智能方案,而非直接使用前沿大语言模型。

亚马逊推出的Strands Decider 2B模型与OpenAI发布的类似产品几乎同期亮相。该模型是一种高速、低成本的工具,能够在预设选项中进行筛选,并给出其选择结果的置信度评分。目前该模型已完全开源,可供下载使用,并且体积足够小,能够在本地环境中运行。

亚马逊首席工程师马克·布鲁克在接触到Jev模型后,萌生了打造自己版本的想法。这个最初的个人项目取得了不错的效果——它曾短暂登上Jevbench同体量模型排行榜榜首,亚马逊工程师团队随后对其进行了完善,并作为Strands Labs的产品正式发布。Strands Labs是亚马逊内部专注于开发智能体部署新工具和协议的团队。

布鲁克表示,这类工具的需求源于与AWS客户的交流。许多客户的智能体工作流并不总是需要完整版大语言模型的全部能力和成本投入。

“最初让我对这类模型产生兴趣的原因是,它们非常适合作为工作流中的决策节点——‘基于当前所处的状态,下一步该做什么?’”布鲁克对TechCrunch表示。他说,这为客户提供了“一种结构更可靠的工作流步骤,得益于置信度评分,得益于封闭式答案域,同时具备更低的延迟和潜在更低的成本”。

与其他决策模型类似,Strands Decider的架构基础是一个大语言模型的“主体”部分,此次采用的是Qen3.5-2B模型,但它并不生成文本,而是输出经过校准的选择结果。TypeSafe将其模型命名为Jev,以纪念经济学家威廉·斯坦利·杰文斯,借此呼应其理论——某种事物(例如计算智能)成本的下降实际上会刺激其需求的增长。

自TypeSafe推出这一理念以来,研究人员已经开发出数十款类似模型,这表明业界对此类技术兴趣浓厚,但也引发了关于其实际价值的疑问。布鲁克认为,未来的挑战在于如何在提升模型决策速度的同时,不损害其智能水平。

“这里需要找到一个非常微妙的平衡点,你希望提升模型在这类任务上的准确性和校准能力,但又不能因此削弱它理解不同语言的能力,削弱它所具备的知识广度——正是这些特质让它具备通用性,变得有趣且实用。”他告诉TechCrunch。

不过,他并不认为前沿实验室会必然主导这一领域,尤其是考虑到这类细分市场规模较小,打造一款有价值的产品所需成本可能只在数百到数千美元之间。

对于TypeSafe公司而言,高管们表示他们正专注于埋头改进未来的模型版本。

“我理解有人觉得这是一场淘金热,但他们可能低估了让模型真正变聪明的难度,”TypeSafe首席执行官兼创始人迪奥戈·阿尔梅达对TechCrunch表示,他认为目前尚未出现真正能对公司构成竞争的产品。

“目前这一批模型更像是机器学习从业者想要实现一种炫酷架构的尝试,而不是一个真正致力于让智能变得实用的团队所做的事情。”

Q&A

Q1:Strands Decider 2B是什么?

A:Strands Decider 2B是亚马逊云科技发布的开源决策模型,灵感来自TypeSafe公司的Jev模型,能够在预设选项中快速筛选并给出置信度评分,适合用于智能体工作流中的决策环节。

Q2:Strands Decider 2B和普通大语言模型有什么区别?

A:它不生成文本内容,而是输出经过校准的选择结果,具有高速、低成本、低延迟的特点,更适合执行结构化的决策任务,而非完整的语言生成任务。

Q3:为什么会出现这么多类似Jev的决策模型?

A:因为这类模型适合作为工作流中的决策节点,成本较低、速度较快,开发门槛也相对较低,吸引了众多研究者和企业投入开发,但模型的实际智能水平仍是关键挑战。

TechCrunch - AI