工具
Ramp 开放 AI 模型路由工具 Router
美国金融科技公司 Ramp 将内部使用的 AI 路由工具对外开放,按任务自动分配模型,号称降低 LLM 成本 30%。
2026.07.21 · 周二约 2 分钟阅读
美国金融科技公司 Ramp 宣布将内部长期使用的 AI 模型路由工具「Router」对外开放。该工具的核心思路是:针对不同类型的请求,自动选择最合适的底层大模型,从而在保证能力的前提下压低调用成本。
产品定位与核心机制
Router 本质上是一层「模型调度层」,位于应用与大模型之间。Ramp 表示,这套机制支撑了公司内部 100 多个 AI 使用场景,使各类功能可以共用同一套路由逻辑,而不是每个功能单独接一个模型。其对外宣传的核心收益是:在功能质量没有下降的前提下,整体 LLM 成本下降约 30%。
覆盖的任务类型
根据官方介绍,Router 可覆盖的任务场景包括但不限于以下 10 类典型用例:
- 结构化抽取(例如从发票中提取明细项),强调高吞吐;
- 工单分类,强调速度快、成本低;
- 长文档摘要(例如董事会演示稿),强调长上下文;
- 合同风险审阅(例如识别续约风险),强调高准确率;
- 交易异常解释,强调复杂推理;
- 自然语言生成 SQL,强调技术准确性;
- 代码调试(例如排查失败 API 请求),强调编程能力;
- 多语言翻译;
- 个性化销售邮件撰写,强调语气与创意;
- 用户内容审核,强调低延迟。
模型组合与选型策略
Ramp 列出了其评估与使用的多个模型组合,覆盖多家主流厂商。官方描述中,Router 会对不同模型做实时评估与路由:对于「快速且低成本」的轻量任务倾向选用小型模型,对于「最高价值」的关键任务倾向选用能力更强的前沿模型;同一类任务也可能由多个模型并行评估后再选择结果。需要注意的是,文中出现的部分模型名称与版本号(如「Claude Sonnet 5」「Gemini 3.5 Flash」「Claude Fable 5」等)目前无法在主流厂商公开信息中对应核实,读者在引用时应以官方最终上线版本为准。
开放范围与待观察点
目前 Ramp 表示将 Router「开放给所有人」,但具体的产品形态(SDK、独立 API、托管服务等)、定价方式以及是否对外部用户提供与内部同等的多模型覆盖范围,公告中并未给出详细说明。该工具的实际效果,仍有待外部用户在实际生产环境中验证。
