科技巨头Salesforce在其规模庞大的Dreamforce技术大会上,宣布了本周最重磅的消息之一:一款名为Koa的全新AI模型。Koa是该公司推出的首款推理模型,构建于英伟达开放权重模型Nemotron之上。两家公司携手对Koa进行了后训练,使其在销售、营销和客户支持相关任务上表现出色。

Koa鲜明地展示出,企业界对AI的需求正与前沿实验室所提供的产品渐行渐远。那些专有的AI实验室更希望企业直接将文件、代码、提示词和反馈上传到它们的模型与智能体中,并为此耗费巨资。

而借助这款模型,Salesforce为其企业客户提供了以下这些能力:

一个可替代闭源前沿模型的开放权重方案

一个专为特定工作任务训练的模型(而非用来解决高难度数学题)

一个未摄入任何真实客户数据、因而不会泄露给他人的模型

一个能降低AI支出的模型,因为它完成同样的工作所耗费的Token更少

一个可根据需求自动通过AI"网关"进行路由调度的模型

一个遵循客户所有数据要求、并内嵌于Salesforce安全体系之内的模型

Koa将作为Salesforce在其Agentforce平台上提供的其他模型的替代选项,客户可在该平台上构建智能体来处理诸如回答客服问题或安排预约等重复性任务。

"我们已经构建了许多小型的、面向特定任务的语言模型,它们都是Agentforce产品组合的一部分,"Salesforce AI执行副总裁贾耶什·戈文达拉扬(Jayesh Govindarajan)向TechCrunch表示,"但推理能力一直是我们依赖前沿模型提供商的领域,直到现在才有所改变。"

在Koa问世之前,如果某个智能体需要对一个长周期或多步骤的任务进行推理,这些提示词就会通过Agentforce的AI网关(决定哪个模型处理哪类请求的系统)被路由至Claude或ChatGPT这类前沿模型。

"我们此前之所以没有这么做——训练自己的企业级前沿模型——尽管我们一直有这个想法,但挑战始终在于缺少一个可用来起步的预训练基础模型。在Nemotron出现之前,市面上没有一个既是美国自主可控、又代表当前最先进水平、同时数据来源清晰可查的预训练模型。我们完全不知道Qwen是用什么数据训练出来的,"戈文达拉扬提到了阿里巴巴推出的这款广受欢迎的中国开放权重模型。

对这样一个模型进行后训练,意味着将其从通用系统转变为精通销售和客户支持知识的专用系统。为实现这一目标,Salesforce和英伟达没有使用任何Salesforce客户的真实数据,而是设计了模拟客户行为模式的合成数据。

"我们实际上模拟了一个客服环境,设定了各类客服人员角色,包括打电话进来的愤怒客户,一直到试图促成交易的销售人员,"戈文达拉扬描述道。

Koa旨在比将同样任务发送给Claude或ChatGPT更擅长处理Salesforce客户希望智能体完成的工作任务——并且从Token消耗成本角度看更为经济。

借助Nemotron,"我们拥有一套用于推理的独特架构,能够实现Token的高效利用,"英伟达生成式AI企业软件副总裁卡里·安·布里斯基(Kari Ann Briski)向TechCrunch表示,"这实际上是你需要具备的三重要素的结合:自主可控的AI、首个Token生成的速度,以及高效的推理能力——这一切都关乎Token经济学。"

不过,Salesforce并没有因此彻底舍弃Anthropic或OpenAI。该公司刚刚宣布了与Anthropic的一项名为ClaudeForce的合作,允许企业将Claude用作其AI交互界面,同时数据仍保留在Salesforce的记录系统中,并由其基础设施加以安全保护。

Q&A

Q1:Koa是什么?它有什么作用?

A:Koa是Salesforce推出的首款推理模型,基于英伟达开放权重模型Nemotron构建,专门针对销售、营销和客户支持相关任务进行了优化训练。

Q2:Koa和Claude、ChatGPT这类模型有什么不同?

A:Koa是专为特定工作任务训练的模型,未使用任何真实客户数据,Token消耗更少更省钱,同时完全遵循Salesforce内嵌的数据安全要求,而非通用型前沿模型。

Q3:Salesforce是否放弃了与Anthropic、OpenAI的合作?

A:并没有。Salesforce同时宣布了与Anthropic的ClaudeForce合作,允许客户使用Claude作为AI交互界面,数据仍保留在Salesforce自身的安全基础设施中。

TechCrunch - AI