软件供应商喜欢宣称自己拥有统一系统,能为任何编码任务、数据功能或更广泛的工作流提供所谓的"单一视图"。专注于智能体数据检索的公司Infino也呼应了这种理念,承诺为所有智能体提供单一检索层。

在此语境下,单一检索层意味着一个统一的数据库系统,让所有AI智能体都能从一个地方查询所有数据。

智能体改变了数据查询范式

Infino于周三正式推出其智能体检索平台,公司表示,之所以构建这一平台,是因为智能体已经改变了数据查询范式,它们的查询方式与人类截然不同。

Infino首席执行官埃凯奇·恩沃卡向The New Stack表示,智能体是"自浏览器问世以来最大的新型数据消费者",但他感叹,智能体目前所使用的仍是为另一个时代打造的碎片化技术栈——用于SQL查询的数据仓库、用于关键词搜索的搜索引擎、用于语义搜索的向量数据库,以及用来保持这些系统同步的ETL数据管道。

恩沃卡说:"我们正在为智能体整合这套技术栈。我们的做法是将数据以Parquet格式存入对象存储,让智能体直接进行搜索、排序、过滤、连接、聚合和推理。最终结果是:所有智能体读取的都是同一份数据。"

正如数据库基础课第一课所讲,数据存储系统传统上都是为人类或应用程序优化的——写一条查询,等待,然后读取结果。

恩沃卡表示:"智能体的行为方式则大不相同。它会发出许多细小的问题来回答一个大问题,往往是同时进行的,而它收到的每一个结果都会消耗上下文,并可能给后续的模型调用增加成本和延迟。这是一种全新类型的读取者,而现有的数据存储系统并未针对这种情况进行优化。"

"智能体的行为方式大不相同。它会发出许多细小的问题来回答一个大问题,往往是同时进行的,而它收到的每一个结果都会消耗上下文,并可能给后续的模型调用增加成本和延迟。"

恩沃卡解释说,Grep(一种在纯文本中搜索特定关键词或模式匹配行的命令行工具)会返回匹配项,然后智能体接着去读取整个文件。此外,他指出,向量数据库会返回少量数据块,然后智能体需要再发出额外的查询。再者,数据仓库返回的是行数据,智能体需要自行将其组合起来。

恩沃卡澄清道:"Infino是专为这种数据读取动态设计的检索层。它为智能体提供了一个直接作用于对象存储之上的单一接口,将结构化和非结构化查询结合在一起:以低成本和大规模实现排序搜索、精确计数、连接、过滤和聚合。"

在数据搜索的旧日时光里,查询模式相对可预测。无论是人类还是应用程序进行查询,搜索都运行在搜索数据库上,分析运行在数据仓库中。向量数据库实现了近似查询,开启了一类新的应用场景,但它们并未从根本上改变那些查询模式。每种查询都运行在自己的系统上,有自己的一份数据副本、自己的数据摄入管道,以及自己的运维团队。

如今,这些操作仍可能跨越一个数据库加搜索引擎、一个向量数据库,以及一个数据仓库。智能体必须分别调用每一个系统,然后花费额外的模型轮次来组合这些结果。Infino的解决方案是将检索功能直接嵌入SQL中,这样整个问题就可以用一条查询来表达。

更少的数据任务,更少的粘合代码,集中化的策略管理

恩沃卡兴奋地表示:"对于开发者和数据团队来说,这消除了整条数据管道以及管理它们所需的时间。这意味着更少的系统、更少的数据摄入路径、更少的ETL任务、更少需要保持一致的模式、智能体工具列表中更少的客户端,以及更少用于组合结果的粘合代码。这还意味着可以在一个地方对智能体进行治理。"

他强调了自己团队在这方面的方法,并表示当智能体的数据存在于单一副本中时,开发者"可以集中实施严格的策略",即对谁可以读取什么内容、智能体可以查看哪些行和列、以及记录哪些日志进行治理。

恩沃卡提醒道:"把这与跨多个MCP网关和SaaS工具管理智能体权限的方式相比较一下。"

"对于开发者和数据团队来说,这消除了整条数据管道以及管理它们所需的时间。"

据Infino介绍,开发者可以输入一个简单的自然语言英文问题,它会变成一条可在几毫秒内完成的查询。Infino澄清说,重要的并不是SQL本身,而是关键词搜索、语义搜索、过滤、聚合和分组可以同时进行,而不是强迫智能体去协调多个系统,并对一堆中间结果进行推理。

作为该平台开发过程中发现的另一个挑战,Infino指出,即便检索速度很快,他们也发现智能体会在检索循环中花费大量时间,即需要构建查询、搜索、判断结果是否足够好、尝试别的方法、验证答案,然后重复这一过程。Infino表示,他们将有针对性的推理模型与检索引擎集成在一起,使这些较简单的任务运行得比使用前沿模型更快、更便宜。

数据存储挑战:Apache Parquet

Infino应对的另一个挑战是如何存储数据。Infino并未为搜索、向量和分析分别维护独立的数据副本,而是在对象存储上保留Apache Parquet(一种列式存储格式)格式的单一副本。

恩沃卡补充道:"核心引擎是开源的,采用Apache-2.0许可,托管在GitHub上,我们将所有数据存储为有效的Parquet文件,搜索索引嵌入在Parquet文件尾部旁边,因此任何能读取Parquet的工具,无论有没有Infino,都能读取这些数据。我们的托管服务Infino Cloud增加了一些专有功能,比如可以直接指向你现有的Parquet数据,使其可搜索,而无需自行搭建任何基础设施。"

Infino将索引存储在Parquet文件内部以加快检索速度,而底层数据仍然是Parquet格式。Iceberg和Hudi可以管理同一张表,Spark、DuckDB、数据仓库以及其他Parquet读取工具仍然可以读取它。因此,一份数据副本就可以服务于智能体查询数据的不同方式。

Infino还希望从数据到查询的路径比传统数据存储系统更简单。该公司认为,设置集群、节点、分片以及配备人力,仅仅为了查询数据就要付出如此多的复杂性。使用Infino,开发者可以直接指向Parquet或JSON数据,摄入数据,然后让他们的智能体指向Infino并开始查询。

谁将从这项技术中受益?

恩沃卡列出了四大软件工程从业者群体,他承诺这些群体都能从上述方法中受益:

平台工程师或数据工程师,他们希望掌控智能体数量激增的局面,用一套更简单、成本更低的技术栈来管理。恩沃卡声称,这种方式不会造成数据锁定,因为数据仍保存在他们自己的存储桶中,任何Parquet读取工具都能读取。智能体可以通过一个接口同时组合结构化和非结构化数据。

安全工程师,他们希望为自己的智能体建立恰当的治理层。由于数据只有单一副本,智能体运行所依据的身份验证策略可以被集中且确定性地执行,而不必分散在一组MCP网关和SaaS连接器中。

进行特征探索的机器学习和数据科学团队。Infino可以对结构化和非结构化数据进行搜索、过滤、连接和聚合,缩短从杂乱数据到干净特征之间所需的时间。

构建跨代码、日志、CI输出、问题单及其他工程数据的智能体工作流的软件开发者。他们无需为每个数据语料库分别配置不同的检索系统,而是可以用一个查询接口覆盖所有这些数据。

恩沃卡表示,以目前的架构来看,Infino的设计目标是比传统搜索或分析基础设施便宜大约10倍。Infino自己发布的对比数据显示,在其测试的工作负载下,它比Elasticsearch便宜约10.5倍,比OpenSearch便宜约23倍。

数十亿文档规模的使用场景

恩沃卡确认,公司已经在人员搜索、文档处理、产品分析和安全等领域支持数十亿文档规模的使用场景。

他总结道:"我们尤其针对那些已经采用Parquet或正在考虑迁移至Parquet的智能体应用场景团队进行了优化,或者是那些希望用更易于管理、更具可扩展性的方案来替换现有搜索工具的团队。"

据该公司介绍,其中一位未透露名称的客户正将公司全线业务的数PB级数据迁移到Infino上。这些Parquet数据存放在客户自己的存储桶中,仍可被不同团队现有的工具读取。同时,产品和工程团队也获得了他们所需的可扩展智能体基础设施,以便为客户推出AI原生解决方案。开发者随后可以通过一个单一接口来控制他们的智能体。

Infino首席执行官恩沃卡与联合创始人兼工程负责人维纳伊·卡卡德、联合创始人阿西夫·马哈尼以及首席架构师穆拉利·克里希纳共同创立了这家公司。

这个团队曾在亚马逊、谷歌和领英(包括AWS OpenSearch项目)多年从事机器学习和搜索系统的构建与运维工作。智能体数据查询方式的变化正是他们创立Infino的理由:让任何智能体都能在一份数据副本上,通过一条查询实现大规模数据查询。

The New Stack