Cloudflare 整合 Workers AI 与 AI Gateway 打造统一 AI 控制平面
Cloudflare 将 Workers AI 与 AI Gateway 合并为统一控制平面,统一入口、计费与可观测性,…
Cloudflare 近日宣布,将原本独立运作的 Workers AI 与 AI Gateway 两条产品线整合为一个统一的「AI 控制平面」(AI Control Plane)。整合后,开发者无需再在两个入口之间选择,可以通过同一调用接口访问任意模型服务商(包括 Cloudflare 自托管的 Workers AI),同时获得统一的可观测性、日志、计费与安全管控能力。
统一绑定接口与 REST API
两套产品入口将被合并。开发者通过 env.AI.run() 绑定调用模型时,可通过新增的 gateway: { id: 'default' } 参数自动获得 AI Gateway 的日志与监控能力;如果此前从未创建过网关,系统会在第一次鉴权请求时按需创建默认网关。同样的合并也体现在 REST API 上——Cloudflare 推出统一的 /ai/ 端点,调用 Workers AI 时只需带上 cf-aig-gateway-id: default 请求头即可走 AI Gateway 通道,无需额外配置。
默认网关带来的免配置可观测性
合并后,所有 Workers AI 用户都会自动获得请求与响应级别的全量日志、按模型维度的 token 计数以及成本归属信息,无需在仪表盘上手动搭建。当默认网关无法满足需求(例如需要自定义缓存策略或按应用拆分流量)时,只需在绑定调用中替换网关名称即可平滑切换到命名网关。
- 自动记录请求与响应负载
- 按模型跟踪 token 用量
- 无需仪表盘配置即可获得成本归属
- 可在仪表盘查看延迟分解、错误率、原始 prompt 与响应
统一计费:AI Gateway 积分可用于 Workers AI
此前 AI Gateway 的预付费积分只能用于外部模型服务商(如 OpenAI、Anthropic),无法在 Workers AI 上抵扣。Cloudflare 已打通计费系统,AI Gateway 积分现可在 Workers AI 上通用。开发者可以一次性为钱包充值,自由分配到任意支持的服务商。对于使用新统一计费路径调用 Workers AI 模型的用户,Cloudflare 表示会提供更高的速率上限,具体额度以开发者文档为准。
即将推出:模型优先路由
在所有推理流量汇聚到同一控制平面后,Cloudflare 计划将路由逻辑从「按服务商路由」转向「按模型路由」。开发者只需声明所需模型(例如某个推理模型、一个轻量摘要模型或一个低成本 embedding 模型),由控制平面负责服务商选择、故障切换与负载均衡,而无需关心底层基础设施。该功能尚未正式上线,但代表着 Cloudflare AI 控制平面未来演进的方向。
整体来看,这次整合并非新增功能,而是把已有能力收口到同一条调用路径上,目的是让开发者把精力放在「我需要哪个模型」上,而非「我该连哪个服务商」。
