AI 推理路由平台 DIT 已接入超 160 家模型供应商

AI 资讯平台 TestingCatalog 在 X 上披露了一项名为「DIT」的 AI 推理路由基础设施的关键能力指标。该平台当前已接入超过 160 家模型提供商，在每次调用时通过竞争路由选择最优供给方，并将路由开销控制在 100ms 以内，以降低延迟对终端用户体验的影响。

核心功能

根据 TestingCatalog 的概述，DIT 的产品形态围绕「按调用竞争路由」展开：

• 多供应商竞争：每次调用会从 160+ 已接入的模型提供商中动态选择，目标是在价格、延迟与质量之间取得平衡。
• 低开销路由：平台声称路由决策本身带来的额外延迟低于 100ms，避免对推理响应时间产生显著影响。
• 按调用成本看板：仪表盘提供单次调用的成本报告，便于用户进行精细化的支出追踪与优化。
• 公开价目表：平台发布的价目表被描述为「示意性快照」（indicative snapshots），即仅供参考，实际价格随供应商和市场波动。

目标场景

DIT 将自身定位面向两类核心工作负载：

• 智能体（Agent）工作负载：需要频繁、并发地调用多个模型，对延迟与成本的敏感度较高。
• AI 原生 SaaS：以 AI 为核心产品能力的 SaaS 服务，对调用成本的可观测性和供应商多样性有刚性需求。

信息局限

需要指出的是，TestingCatalog 的原始推文信息量极为有限，仅以要点形式罗列了上述能力，并未披露 DIT 的完整技术架构、调度算法细节、与同类推理网关（如 OpenRouter 等）的功能对比，也未公开具体的延迟、成功率或价格基准数据。因此本文所述功能均来自该单一来源，读者在据此评估前，建议进一步查阅 DIT 的官方文档以获取权威说明。

截至目前，DIT 的官网链接已随原推文附出，但其在模型生态中的实际采用规模和长期稳定性仍待观察。