OpenAI于周三推出全新的智能体API,将支撑Codex运行的智能体框架与基础设施能力开放给开发者,有望为企业提供构建定制化AI智能体的新途径,同时大幅减少传统上打造此类智能体所需的编排与基础设施管理工作。
这种工程复杂度的降低之所以能够实现,是因为该智能体API本质上是一项托管服务,由OpenAI负责托管和维护底层框架与基础设施。
此前,开发者若要构建定制化智能体,通常需要自行搭建支撑其运行所需的各类组件,包括智能体运行时环境、上下文与会话管理、工具及外部数据连接、执行环境以及相关基础设施。
OpenAI本身已经通过一些产品提供了部分构建模块,例如其响应式API,开发者可借助该API将模型与内置功能(包括网页搜索、文件搜索和计算机操作)结合使用;此外还有用于定义和编排智能体工作流的智能体软件开发工具包。
相比之下,目前处于公开测试阶段的智能体API,能够让开发者在指定任务、模型、工具和运行环境后,通过一次API调用即可完成定制化智能体的设计,该模型提供商在一篇博客文章中写道。
关于执行环境,开发者可以选择在OpenAI托管的沙盒环境中运行智能体,也可以选择在自有基础设施上运行,或通过受支持的第三方沙盒提供商运行,包括Blaxel、Cloudflare、Daytona、DigitalOcean、E2B、Modal、甲骨文、Runloop和Vercel,文章补充道。
文章进一步解释称,这些选项为企业提供了灵活性,可以在完全托管环境与部署在自有虚拟私有云中之间做出选择,并可根据自身工作负载,在文件与密钥存储方式以及计算配置方案上采取不同策略。
Pareekh Consulting首席分析师Pareekh Jain表示,智能体API"显著减少"了工程量,使开发者能将更多时间投入到实际业务应用的构建中,而非智能体基础设施的搭建上。
IT咨询公司Kanerika的AI开发主管Amit Kumar Jena也持类似观点:"智能体API的主要优势在于减少了活动部件的数量。一个手工搭建的长时间运行智能体需要任务队列、状态数据库、沙盒集群、压缩例程和重试策略,而每一项都需要有人负责维护和响应告警。"
这种工程工作量的减少,反过来也有助于企业首席信息官缩短将智能体投入生产环境并随后进行扩展所需的时间。
HFS Research首席执行官Phil Fersht表示:"企业可能需要更少的工程师来搭建每个智能体周边的基础设施,这应该会缩短开发时间。"
Jena指出,这种时间上的优势对大多数企业而言可能至关重要,因为智能体的开发通常会在"可运行的演示版本"与"能够无人值守运行数小时的系统"之间陷入停滞,而基础设施相关问题往往成为智能体投入生产的关键瓶颈。
然而,工程工作量的减少以及潜在更快的生产落地路径,并不能消除首席信息官必须考量的权衡因素,包括企业将更加依赖OpenAI提供的底层智能体基础设施及驱动其运行的模型。
Jain指出:"锁定效应是最大的担忧。如果OpenAI同时提供模型、上下文管理、工具、编排以及执行环境,那么迁移到其他平台将变得更加困难。"
Jena表示,这种依赖性也可能削弱企业在定价和条款方面的议价能力。
Jena还指出,即便企业使用自有沙盒环境,新API也存在数据隐私与治理方面的问题,因为该API"不支持零数据保留"。
Fersht表示,这反过来可能限制其在医疗健康、银行金融保险等受严格监管行业中的应用普及。
Jain表示,相反,初创企业、SaaS公司以及已经在使用OpenAI服务的企业更有可能率先采用这一新API,因为它能够减少开发工作量。
Jain补充道:"采取多模型战略的企业可能更倾向于使用自有的独立框架,或者更可能采取混合方式。"
分析师指出,由于面临来自超大规模云服务商及竞争对手的竞争,智能体API的普及可能会进一步受限。
Jena指出:"这是一个竞争激烈的赛道。Anthropic的Claude托管智能体自四月起已进入公开测试阶段。亚马逊云科技也提供了Amazon Bedrock AgentCore,其托管框架已于六月正式全面上市,提供同类功能,包括循环处理、工具执行、上下文管理、状态维护和故障恢复,同时允许用户使用任意模型,并可在会话中途切换提供商而不丢失上下文。"
Jena补充道,其他竞争性产品还包括微软的Foundry Agent Service以及LangGraph。
Q&A
Q1:OpenAI推出的智能体API有什么作用?
A:智能体API是一项托管服务,能让开发者在指定任务、模型、工具和运行环境后,通过一次API调用完成定制化智能体的设计,大幅减少了传统构建智能体所需的编排与基础设施管理工作。
Q2:使用智能体API会不会导致企业过度依赖OpenAI?
A:会存在这种担忧。由于OpenAI同时提供模型、上下文管理、工具、编排以及执行环境,企业迁移到其他平台会变得更加困难,这也可能削弱企业在定价和条款方面的议价能力。
Q3:智能体API目前有哪些竞争对手?
A:竞争对手包括Anthropic的Claude托管智能体、亚马逊云科技的Amazon Bedrock AgentCore、微软的Foundry Agent Service以及LangGraph等产品。
