Not Diamond 发布智能模型路由 Not Diamond Code，推理成本降 20%+

Not Diamond 近日发布了名为「Not Diamond Code」的新型智能模型路由器，主打长时编码 agent 会话场景，允许用户在工作流的每一步灵活选择所用模型与对应的推理投入度（reasoning effort），同时声称相比直接调用前沿模型可降低超过 20% 的推理成本。该产品可嵌入现有网关与 agent harness，包括 Anthropic 的 Claude Code。

核心定位：每步可路由

Not Diamond Code 的核心卖点是「step-level routing」：在同一次 agent 会话中，系统可根据当前任务类型、成本预算或用户偏好，自动或手动决定切换到不同的底层大模型（例如 GPT、Claude、Gemini 等），并调节该步骤的推理力度。该设计适用于需要长时间运行、混合难度子任务的编码 agent 工作流。

成本优化与缓存感知

官方称，在保持「前沿模型质量」的前提下，整体推理成本可下降 20% 以上。此外，新版本引入了 cache-aware routing（缓存感知路由），旨在复用跨调用间的上下文缓存，进一步压低 token 费用。Not Diamond Code 设计为可即插即用地接入现有 agent 框架与网关，Claude Code 是首批明确支持的目标 harness 之一。

行业背景与信息空白

Not Diamond 是「模型路由（model routing）」赛道的较早期玩家，其本质是在多个 LLM 之间做智能调度，让成本与质量达到更优平衡——这一思路在企业级多模型部署中正变得普遍。不过本次公告并未披露具体的 benchmark 数据、参与对比的模型清单、延迟指标或独立验证结果，20% 成本降幅的具体测算口径与适用场景仍有待进一步说明。