周四,Box在其开发者大会上展示了一项新功能,该功能将把英伟达的Nemotron嵌入系统构建到其产品核心之中。
这项名为Box Content Retrieval(Box内容检索)的新功能,依靠Nemotron生成的嵌入式元数据,使智能体能够更有效地回答查询请求。
Box表示,这项技术为用户带来的好处是查询速度更快、准确性更高、成本更低。英伟达生成式AI软件副总裁卡丽·布里斯基(Kari Briski)向TechCrunch透露,她预计查询速度将提升四倍,错误率降低20%,Token使用量减少90%。
该系统将面向Box所有Enterprise Advance企业客户开放,预计明年初正式上线。
“这极大提升了我们搜索技术对智能体的相关性,”Box首席执行官亚伦·列维(Aaron Levie)表示。“智能体不必再逐篇阅读文档,我们可以直接返回与用户查询内容或智能体正在执行任务最相关的文档片段。”
该功能是对英伟达Nemotron Embed项目的落地应用,该项目提供开放权重的嵌入模型,用以改进自动化检索系统。此类模型利用大语言模型对数据进行预处理,以便智能体更好地使用这些数据,但主流实验室此前往往忽视了这一领域。该领域一直是英伟达开源模型项目的重点方向,其今年7月发布的最新版Nemotron在衡量检索质量的RTEB基准测试中位居榜首。
Box表示,该系统在与活跃智能体配合使用时将发挥最大效用,并以律师为例:在新系统的支持下,律师理论上将能够更轻松地找到相关条款和判例。由于Nemotron的嵌入技术不仅限于简单关键词匹配,还能映射出文本背后的核心概念,因此即便使用不同的措辞或语言,搜索工具也能发现相关的法律主题内容。
尽管Nemotron模型可供免费获取使用,但该系统在很大程度上仍依赖于Box自身已有的元数据体系和权限控制机制,这使得其他公司难以从零开始复刻这一系统。“我们可能把五种不同的技术,打包进了一个简单的API接口中,”列维向TechCrunch表示。
