如今,企业已经引入了外部大模型,却仍不愿让它直接连接核心业务系统。尽管,这些模型可以用来整理办公文档,但涉及订单、交易记录和生产数据时,企业通常会限制其的访问范围。
而且,即使限制了访问范围,查询结果仍有可能不符合业务要求。如果销售和财务部门采用不同的统计口径,即便查询的是同一批数据,得到的数字也可能不同。Agent应当遵循哪套业务规则,才能让各部门核对这些结果?
围绕这些问题,至顶网采访了Cloudera大中华区技术总监刘隶放。

Cloudera大中华区技术总监 刘隶放
数据能查出来,为什么还要统一语义?
过去,企业通过数据仓库管理经营指标,由开发人员把业务部门的指标名称与数据库中的表、字段对应起来。如今,Agent可以自行生成SQL,但查询之前仍要明确这些对应关系,否则就可能选错数据。
至顶网:大模型已经能够识别数据库表结构、生成SQL,甚至探索数据表之间的关系。企业为什么仍然需要语义层?它与访问权限有什么关系?
刘隶放:员工使用Agent查询某项数据,只要明确数据来源和查询条件,通常就能得到结果。但销售、财务等部门需要核对同一项经营指标,就必须先统一统计口径。比如,销售额既可以按订单创建时间统计,也可以按实际付款时间统计。如果两个部门各用一种口径,即便SQL都执行成功,结果也不能直接比较。
传统数据仓库建设中,数据开发人员需要确定业务指标对应的表和字段,以及相关数据怎样关联。语义层把这些业务定义和数据关系集中管理,供不同Agent使用。企业调整组织结构或增加供应商时,只需维护相关定义,无须让每个Agent重新推断表与表之间的关系。
AI可以协助识别表与字段之间的关系,起草语义定义,但采用哪些规则,仍需由企业审核。如果每个Agent独立分析数据库,不仅会重复消耗Token,还容易对同一项指标作出不同解释。统一语义定义之后,企业便可以据此设计受控的数据访问接口,再通过权限系统限定查询范围。
至顶网:语义层可以帮助Agent理解业务指标,但它究竟能访问哪些数据,还需要企业授权。MCP和数据网关分别承担什么工作?为什么一些企业会选择在内部部署模型?
刘隶放:理解数据含义,并不代表Agent有权读取这些数据。企业可以先在沙箱中让模型分析数据结构、测试查询逻辑,再根据测试结果完善访问规则。接入生产系统后,Agent面对的是订单、交易等业务数据。哪些数据允许读取,哪些操作需要人工确认,都必须提前规定。
MCP提供模型调用外部工具的标准方式,但接入工具之后,企业仍需进行身份认证、权限校验和审计。语义层解释指标如何计算,数据网关和数据库权限体系则决定请求能否执行。
这样一来,Agent就能通过受控接口查询业务数据,无须直接获得底层数据库的全部权限。
举例来看,Cloudera的一些客户采购了外部大模型服务,用来整理文档等办公材料,但却不愿让外部模型直接查询核心业务数据。因此,部分客户将任务分开处理:通用办公任务调用外部服务,涉及重要生产和交易数据的任务则使用内部模型。即使内部模型的能力相对有限,企业仍然优先考虑对核心数据的控制。
进入生产系统之后,Agent还会遇到什么问题?
在测试环境中,Agent能够完成查询,并不能证明它进入生产系统后也能稳定运行。连续调用工具会增加数据库请求,多个任务并发时还可能影响原有业务。除此之外,企业还需核对查询结果是否符合业务规则。
至顶网:Agent完成一项任务时,通常需要连续调用工具、查询数据库。多个Agent同时运行,会给原有业务带来什么影响?Cloudera有哪些编排与调度能力?
刘隶放:Agent完成一项分析任务,往往需要多次查询数据。例如,分析销售情况时,它可以先查订单,再获取库存和销售记录,随后根据查询结果继续调用工具。用户只是提出了一项任务,而后台却要处理多次查询。如果多个Agent并发运行,大量请求集中进入数据库,就会与原有业务争用计算资源。
因此,企业需要通过编排与调度管理Agent的工具调用和并发查询,减少集中查询对原有业务的影响。除了查询数据,模型推理也需要计算资源,两类任务应分别管理。Cloudera AI Studios中的Agent Studio用于设计和编排Agent工作流,Cloudera AI Inference提供模型推理服务。至于Agent能够访问哪些数据,仍由企业的权限体系决定。
然而,管理访问权限和查询负载,也不能保证结果一定正确。使用RAG回答文档问题时,要检查检索到的资料是否相关,以及模型是否有权使用这些资料。查询经营指标时,则要核对数据源、统计口径和查询条件。即使SQL执行成功,选错了指标,得到的结果仍不符合业务要求。
至顶网: 随着Agent开始参与企业业务,数据访问权限、查询负载和结果准确性都需要经过验证。企业应该如何在概念验证(PoC)阶段解决这些问题?Cloudera为什么采用FDE模式?
刘隶放: 企业客户通常清楚自己希望通过AI解决什么业务问题,但在项目初期,往往很难确定具体需要哪些功能、接入哪些数据,以及如何与现有业务系统集成。这些问题需要通过技术验证逐步明确,因此,工程师能否深入了解客户业务,并及时验证技术方案,就显得尤为重要。
过去,企业通常需要经过多轮需求讨论和PoC测试,才能逐步确定实施方案。现在,FDE(Forward Deployed Engineer,前沿部署工程师)可以直接参与客户现场的技术交流,与客户技术人员共同梳理需求,并借助AI编程工具快速制作应用原型。客户也可以根据原型的运行效果提出修改意见,工程师则进一步调整功能和数据调用方式,从而缩短需求确认和方案验证的时间。
这种工作方式对工程师提出了更高要求。FDE既要熟悉AI应用开发,也要理解企业的数据架构和业务规则。 例如,设计一个经营分析Agent,工程师不仅要知道如何调用模型,还需要了解相关业务指标的计算方法,以及Agent应该从哪些系统获取数据。比如,我们像我们Cloudera亚太地区的FDE团队既有原有专家团队转型的工程师,也有从外部招聘的专业人员。
完成应用原型后,企业还需要进一步验证技术方案是否适合具体业务。对于知识库问答,可以采用RAG(检索增强生成),先检索企业文档中的相关内容,再由模型生成回答。如果现有模型在特定任务中的表现无法满足要求,则需要评估微调的必要性。涉及图片、视频等多模态数据时,还需要考虑数据的存储、检索和访问权限。不同任务所需的技术方案有所区别,因此,这些问题都应在PoC阶段进行测试。
确定技术方案之后,还需要检验Agent在实际业务系统中的运行情况。例如,Agent执行经营分析时,可能连续查询订单、库存和销售数据。企业既要确认查询结果是否准确,也要检查多次查询产生的负载是否影响原有业务。同时,Agent能够访问哪些数据、哪些操作需要人工审核,以及出现异常后如何处理,都应有明确规定。
因此,PoC阶段需要同时验证Agent的业务功能、数据访问权限和系统运行情况。 只有完成这些验证,企业才能进一步确定实施方案,并判断哪些业务可以交给Agent执行,哪些关键操作仍然需要人工参与。
