AI编程工具Cursor近期推出了一款模型路由器,能够将每一个编程请求自动分配给最适合处理它的模型,从而避免为不需要顶级算力的任务支付高昂的前沿模型费用。

Cursor Router的核心机制类似医院急诊室的分诊系统:它会分析请求的实际需求——难度级别、用途类型以及上下文代码——然后匹配最合适的模型。简单修复任务交由低成本模型处理,真正复杂的问题则会被升级至接近前沿水准的模型。此外,开发者和管理员还可以在三种模式之间切换,分别侧重速度与成本、或更强的原始算力。

Cursor现场CTO潘大卫在社交媒体上阐述了推出该功能的理由:"我们一度失去理性,认为每位软件工程师都应该精通模型基准测试、推理层级和缓存命中率。"他认为,开发者不应该为了写代码而成为模型性能专家。

PlanetScale软件工程师Fatih Arslan对此表示认同,他指出工程师目前已在手动权衡成本与能力之间的取舍——日常工作默认使用便宜快速的模型,遇到"重要任务"才切换到昂贵的慢速模型,"为什么不把这个过程自动化?Cursor Router正是做了这件事。"

Cursor在博客文章中透露,早期用户与全程使用Opus 4.8相比节省了30%至50%的成本,且输出质量没有下降。

此次发布是Cursor持续掌控自身AI技术栈的最新举措。今年5月,该公司发布了Composer 2.5——基于中国月之暗面旗下开源模型Kimi K2.5构建的内部编程模型,其成本低于Anthropic和OpenAI的前沿产品。如今在SpaceX(今年6月上市,市值已达1.5万亿美元)的支持下,Cursor也在打造自己的前沿模型。

7月8日,Cursor与SpaceX AI联合发布了Grok 4.5——一个基于名为V9新架构构建的混合专家模型,马斯克此前披露其参数规模约为1.5万亿。该模型基于大量真实Cursor使用数据训练而成,向所有Cursor用户开放,定价为每百万输入Token 2美元、每百万输出Token 6美元。

有了Composer负责低成本快速任务,加上Grok品牌的前沿模型处理高强度需求,Cursor已将自研模型纳入其供应体系。建立路由器的逻辑也由此清晰:大多数开发者会选定一个模型一用到底,哪怕是把简单任务也按前沿价格计费。把所有请求都引导至自家模型虽然省事,却意味着在某些任务上交付质量打折,因此Router的策略是将每个请求发送给真正适合它的模型,无论是否为自家产品。

模型路由本身并非新鲜事物。OpenRouter自2023年起已提供类似服务——一个统一API对接逾60家供应商的400多个模型,其自动路由功能与Cursor Router的逻辑相似:判断请求类型,再根据用户在成本与质量之间的偏好发送至合适的模型。OpenRouter还推出了Fusion功能,将提示词同时发送给多个模型,再由一个裁判模型综合各方结果给出最优答案。

今年6月,日本Sakana AI发布了Fugu,其思路略有不同:将单一任务拆解为多个子任务,分别路由至不同模型,旨在降低对单一AI供应商的依赖。

Nethermind AI产品负责人Kirill Balakhonov认为,Cursor的版本之所以成功,正在于其专注于编程这一垂直领域,而非试图成为通用路由器。"这是技术创新直接转化为产品改进的绝佳案例……而非像Sakana Fugu或OpenRouter Fusion那样的抽象概念。"他预测后两者的路由尝试最终将走向没落。

与此同时,更多大型玩家正在入场。7月初,微软成立了一支规模达25亿美元的服务部门——微软前沿公司,派遣数千名工程师驻场客户,协助其构建多模型AI应用。微软商业业务CEO贾德森·奥尔托夫坦言,推出多模型策略的部分原因在于看到DeepSeek和谷歌Gemini正在缩小与OpenAI的差距,并承认"我们犯了一个错误,把Copilot只绑定在OpenAI模型上。"

就在本周,Ramp——估值440亿美元的企业支出管理平台——开放了Ramp Router的早期访问版本。该路由器最初是Ramp为控制自身AI账单而内部构建的,据称将大语言模型成本降低了约30%。它面向公众免费开放,无需Ramp账户,可通过兼容OpenAI的接口在OpenAI、Gemini及包括Kimi在内的部分开源模型之间进行路由。

同日,据The Information报道,Meta也在开发一款模型路由器。据内部文件显示,Meta旗下孵化器AAI Labs正在开发一款名为Switchboard的产品,将按难度对请求评分并将较简单的请求分配至更小、更廉价的模型,初期目标是削减Meta自身的AI智能体运营成本,未来或将对外公开发布。

Meta有充分理由推进这一项目。Runpod今年3月发布的《AI现状报告》显示,Meta的开源Llama模型在生产环境中的存在感已大幅萎缩:Llama 4的实际部署量接近于零,阿里巴巴的Qwen已超越它成为部署最广泛的自托管大语言模型。

Meta也在大力发展自有专有模型。今年4月,其新成立的Meta超级智能实验室推出了首款模型Muse Spark;7月,Muse Spark 1.1发布,这是Meta首个提供公开付费API的模型,定价约为OpenAI和Anthropic同类产品的四分之一。

Meta正积极向现有头部厂商发起冲击,而Switchboard正符合同一逻辑:让用户更容易降低成本、灵活切换模型,并在合适时机将请求引导至Meta自家模型。

然而,在模型路由热潮之下,一个更根本的问题或许值得关注:路由决策本身——即决定哪个模型处理哪类请求的逻辑——是否适合被封装在某个厂商的封闭产品中?

DAIR.AI联合创始人、Meta AI前技术产品营销经理Elvis Saravia在社交媒体上对此提出质疑,认为这一决策不应被外包给API,因为不同团队在成本与质量之间的权衡各不相同。"有没有人在做开源版本?这种事感觉不该外包给API。我们各自面临不同的取舍,所以需要实现自定义路由的能力。"

目前,Cursor Router仅面向Teams和Enterprise用户开放,支持桌面端、Web端、iOS、命令行及Cursor SDK,暂不清楚是否会在未来向个人用户推出。

Q&A

Q1:Cursor Router是如何决定将请求发送给哪个模型的?

A:Cursor Router采用类似医院急诊室分诊的机制,会分析每个请求的难度、用途和上下文代码,然后匹配最合适的模型。简单任务交由低成本模型处理,复杂问题则升级至前沿模型。开发者还可通过三种模式手动调整偏好,在速度/成本与性能之间灵活切换。早期用户数据显示,使用路由器后成本降低了30%至50%,且输出质量没有下降。

Q2:Ramp Router和Cursor Router有什么区别?

A:两者逻辑相似,都是按任务难度将请求路由至不同模型以降低成本,但定位不同。Cursor Router专为编程场景设计,集成了Cursor自研模型(Composer 2.5和Grok 4.5);Ramp Router则源于企业财务平台Ramp内部降本实践,支持OpenAI、Gemini及Kimi等开源模型,向公众免费开放且无需Ramp账户,据称帮助Ramp将大语言模型成本降低约30%。

Q3:Meta的Switchboard项目进展如何?会对外开放吗?

A:根据The Information的报道,Meta内部孵化器AAI Labs正在开发Switchboard,核心功能是对请求按难度评分,将简单请求路由至更小、更便宜的模型,初期目标是降低Meta自身AI智能体的运营成本。目前该产品尚处于内部研发阶段,据报道未来存在对外公开发布的可能性,但具体时间表尚未披露。

The New Stack