Teradata正在为其面向企业数据与AI任务的AI工作空间Tera增加上下文引擎、执行层和可复用智能体技能,目的是提高多步骤工作流的智能体执行效率。Tera最初于5月作为Teradata自主知识平台的一部分推出。

Teradata在一份声明中表示,这些新增功能旨在减少不必要的模型和工具调用,同时保留业务上下文,并自动为每个任务匹配合适的数据、工具、模型和技能,帮助企业在智能体工作负载扩展时控制推理成本。

新的执行层Tera Harness决定智能体如何处理任务以及工作流如何路由,而Tera Context Engine则添加了指导这些决策所需的业务上下文。

该公司表示,为了减少完成任务或工作流所需的计算量,Harness在将工作发送给大语言模型之前会先创建执行计划,将独立任务批量处理,并删除无助于推进任务的模型或工具调用。该公司补充说,它在推理前应用了84种执行模式,并根据工作流的进展限制其可运行的步骤数,从而减少重复的大语言模型推理,以及与低效智能体循环相关的Token和基础设施成本。

根据Teradata在SWE-bench Pro基准测试上的自我评估,借助这些新功能,在运行相同的Opus 5模型时,Tera所使用的Token比Claude Code少73%,任务完成速度快42%,总成本降低58%,同时任务完成率更高。

分析师表示,这种对智能体执行经济性的关注,对于试图在既定AI预算内扩展智能体工作负载的首席信息官来说可能变得越来越重要。

HFS Research执行研究负责人阿希什·查图尔维迪表示:"Tera Harness正在攻克企业现在才发现痛点所在的智能体AI问题——如果任由智能体自行推理完成每一步,它很可能会在从未真正推进任务的循环中白白消耗Token。即使每个工作流调用次数的小幅减少,在规模化后也会变得意义重大。"

HyperFrame Research的AI技术栈实践负责人斯蒂芬妮·沃尔特表示,对于希望控制智能体成本的企业而言,减少不必要的模型调用及其消耗的推理Token,可能比简单地选择更便宜的模型更为实际,因为这减少了智能体所需的推理量,而不仅仅是降低每次推理的成本。

博通公司高级站点可靠性工程师阿德瓦伊特·帕特尔表示,除了降低支出外,约束智能体执行任务方式的这种能力,也能帮助首席信息官更好地为其智能体工作负载做预算。

帕特尔说:"目前,智能体成本很难预测,因为同一任务今天可能只需5次调用,明天却需要50次。先规划的Harness使成本更加一致,从而使预算和扩展决策更容易。"

这种可预测性也可能减少开发人员自身需要构建和维护的智能体优化工作量。

帕特尔指出:"在调用大语言模型之前先规划、批量处理独立步骤,以及删除无助于推进任务的调用,这些都是成熟的工程实践,但由平台默认应用这些实践,意味着各个开发团队不必为每个智能体工作流单独实现并持续调整这些控制机制。"

然而,Tera这种以成本优化为导向的方法并非没有代价,企业团队需要考虑更严格受控的智能体执行可能带来的限制。

帕特尔表示:"问题在于,对大语言模型推理调用进行削减本身是一种主观判断。如果Harness认为某个步骤不必要而将其删除,而该步骤实际上很重要,企业确实省了钱,但得到的答案会更差。因此企业需要仔细核实结果。"

沃尔特表示,这反过来可能会将开发人员的部分工作,从指导具体步骤(例如决定调用哪些工具以及任务如何排序)转向定义正确结果应该是什么样子,并审查智能体是否已实现该结果。她还补充说,团队还需要维护决定智能体在生产环境中如何运作的技能、指令和防护措施,即便平台承担了更多执行工作,这仍会产生新的一层工程工作。

KramerERP管理合伙人罗伯特·克拉默表示,首席信息官也需要保持谨慎,尤其是在承诺的成本效益方面。他说:"Teradata的基准测试结果不应被视为等同于企业的总拥有成本。企业应该衡量完成一项业务任务的成本,包括模型使用、数据计算、工具调用、重试、编排以及审查结果所需的人力投入。"

沃尔特表示,运行智能体工作流的成本并非首席信息官唯一需要考虑的因素:企业越依赖Tera的架构来管理上下文、执行和可复用技能,这些能力就越可能被嵌入到其工作流中,这也带来了一个单独的问题——这些工作流未来迁移到其他平台会有多容易。

这些权衡以及Teradata当前的装机客户群,也可能影响哪些企业会选择采用Tera及采用方式。

沃尔特说:"最有可能的早期采用者,是那些拥有复杂、受管控的数据环境,且工作流跨越分析、数据工程和AI领域的现有Teradata客户。对这些企业而言,Tera代表着对其已在使用的环境的一种合理扩展。要赢得已经标准化使用Snowflake或Databricks的客户会更难,因为智能体本身还不足以成为迁移的理由。"

Teradata计划在12月前正式推出新的上下文引擎、执行层和可复用智能体技能。

本文首发于CIO网站。

Q&A

Q1:Tera Harness是什么?它有什么作用?

A:Tera Harness是Teradata新增的执行层,用于决定智能体如何处理任务以及工作流如何路由。它通过预先创建执行计划、批量处理独立任务、删除无效调用等方式,减少不必要的模型和工具调用,从而降低推理成本并提升任务完成效率。

Q2:Tera相比Claude Code的性能表现如何?

A:根据Teradata在SWE-bench Pro基准测试上的评估,在运行相同的Opus 5模型时,Tera使用的Token比Claude Code少73%,任务完成速度快42%,总成本降低58%,同时任务完成率更高。

Q3:使用Tera这类成本优化工具有哪些风险?

A:主要风险在于推理调用的削减是一种主观判断。如果系统认为某步骤不必要而删除,但该步骤实际很重要,企业虽然省钱却可能得到更差的结果,因此企业需要仔细核实输出结果,并权衡效率与准确性之间的取舍。

InfoWorld