YC 创业项目 Tokenless 上线：动态切换模型以降低 Agent 推理成本

YC S26 批次项目 Tokenless 近日在 Hacker News 上正式亮相，定位为面向 AI Agent 的智能 API 网关，核心卖点是「按回合动态切换模型」，在保证能力的前提下压低推理成本。

产品定位与背景

创始团队由 Rohit 与 Andrew、Kev 组成。据介绍，Tokenless 解决的是企业在 Agent 场景下普遍面临的算账难题：一方面，前沿模型能力强但单价高；另一方面，开源/开放权重模型虽然便宜且能力快速追赶，但仍存在明显差距。Tokenless 试图在二者之间做实时调度——只在「复杂回合」上调到更强的模型，简单回合走廉价模型，从而把整体花费降下来。

核心技术与性能声明

创始人在原文中表示，其路由器已能以约一半成本达到「Claude Fable 5」（原文如此，疑为笔误，可能指 Claude Haiku 或 Sonnet 3.5 系列）的水平。其技术博客披露了两点关键做法：

• 多模型并行查询：以「同时询问多个模型、根据其推理进度动态决策」的方式进行路由，团队声称该思路在此前同类工作中尚未见到。
• 缓存感知切换：路由算法会判断上下文缓存的冷热状态，避免在切换模型时击穿缓存造成额外开销。

后续规划与可用性

团队表示将继续扩展可路由模型池，包括 Kimi K3、各类 GPT 系列等。同时，Tokenless 已在官网开放注册，新用户可获得 20 美元免费额度，并提供 YouTube 演示视频。

行业意义与局限

从行业角度看，模型路由并非全新概念，业内已有 Martian、Not Diamond、OpenRouter 等同类方案。Tokenless 的差异化尝试在于「并行查询 + 进度感知」和「缓存感知切换」两点，但目前缺少公开的基准测试数据和第三方验证，仅有创始人博客中的内部对比。该项目在 HN 上首日仅获得 6 分、1 条评论，关注度较低。建议关注后续是否有独立评测或基准披露，以判断其真实性价比。