LLM API 路由网关 IQ Routing 上线，可按调用难度自动选模型

IQ Routing 是一款面向大语言模型 API 的智能路由网关，可作为 OpenAI、Anthropic、Google 等厂商 SDK 的统一入口，在不修改既有应用代码的前提下，把每一步调用路由到最便宜的可用模型。该产品在 Hacker News 以 Show HN 形式发布，自称在其自有流量上实现 40%–80% 的成本下降。

解决的问题

当 AI 应用全部固定使用某一款前沿模型时，所有分类、检索、工具调用与清理类工作都需要按推理档计费，其中相当一部分本可用更便宜模型完成。与此同时，按团队、按键划分的预算、缓存命中辨识以及按步骤的成本归因都难以直接拿到。

IQ Routing 的思路是在调用链前置一个解析器，由专用分类器评估每个请求的真实难度，结合各厂商实时价格与延迟，挑出满足质量门槛的最便宜模型；任一供应商波动时自动回退到备用路径。

一个具体例子：同一段 LangChain 五步循环

发布方给出同一段五步流程的 Before/After 对比，所有数字均来自原文。

Before：每一步固定调用 claude-opus-4-8（thinking=high）。
- Planning：0.42 美元
- Retrieval：0.38 美元
- Tool call：0.28 美元
- Synthesis：0.41 美元
- Verification：0.35 美元
- 循环总成本 1.84 美元
After：交给 IQ Routing，按步骤分配档位。
- Planning → gpt-5.6-terra high（cap:reason-heavy）：0.25 美元
- Retrieval → gpt-4o（cap:long-context-128k）：0.06 美元
- Tool call → gpt-4o 无思考（cap:tool-call-strict）：0.04 美元
- Synthesis → claude-opus-4-8 high（cap:reason-heavy）：0.41 美元
- Verification → gpt-4o-mini（cap:cheap-fast）：0.01 美元
- 循环总成本 0.77 美元，约下降 58%

应用代码无需任何改动，路由决策对外透明，官方表示每一步价格可逐项核对。

主要能力

路由：核心是分类器，根据真实难度、延迟、价格动态选择模型，供应商标的波动时立即回退。
缓存：识别重复请求（含语义近似版本），命中即不再计费；各团队缓存相互隔离。
会话：多步 Agent 循环作为一个会话单位，逐轮记录成本、延迟、token、步骤类别，并设定总思考预算上限。
计费：按团队、按 Key 设置预算，区分输入、输出、缓存、思考四类费用，在调用下发前写入账本并强制生效。
厂商族内路由：在 Claude Code、Cursor 等限定模型族的应用内，在同一族内部跨档路由，避免被迫越族切换。
步骤级选型：把 Agent 多步流程拆开评估，对高难度步骤保留前沿模型，对简单步骤降档到低价档。

兼容性与路线图

当前已支持 OpenAI、Anthropic、Google 三家厂商的 OpenAI/Anthropic 兼容端点，通过一个统一 base URL 接入；用户可继续使用 BYOK 密钥。
官方将 Kimi 与 GLM 列入后续兼容性路线图。

定价档位

Free：每月 0 美元，需绑定支付卡但 Free 档不扣费，每分钟 240 次上限，支持三家厂商与自带密钥。
Team：每月 70 美元，每分钟 600 次上限，新增团队预算、审计日志、告警、组织权限与自定义档位映射。
Enterprise：定制年付，支持本地或 VPC 部署，可按需提供 SOC2 证据包、ERP 集成与专属支持。

原文末尾称开发者仅需改动约三行配置，即可在三十秒内开通、五分钟内接入真实流量。