Together AI 推出 Provisioned Throughput 预留推理容量服务
Together AI 推出预留推理容量服务,首批支持 MiniMax M3 与 GLM-5.2,并提供 99% SLA…
Together AI 在 X 平台宣布推出「Provisioned Throughput」服务,为前沿开源模型提供预留推理容量。该服务采用基于 token 的定价模式,并承诺 99% 的正常运行时间 SLA,旨在帮助企业在高峰期获得稳定的推理算力,同时降低使用成本。
核心定位与定价
Provisioned Throughput 的核心卖点是「Serverless 简洁性 + 预留容量保证」的组合:用户无需自行管理底层基础设施,但同时获得稳定的推理资源调度能力。按 token 计费的模式使成本与实际使用量挂钩,便于团队做预算规划。官方在公告中声称,该方案相比 Opus 4.8 可降低最高 90% 的成本,定位为面向前沿开源模型的高性价比推理选择。
服务等级与稳定性
Together AI 为 Provisioned Throughput 提供 99% 的正常运行时间 SLA,意味着企业用户可在生产环境中依赖该服务而无需担心算力波动。这一指标在面向消费者的 serverless API 中并不常见,主要面向对稳定性要求较高的企业级工作负载,包括批处理、在线推理和高并发应用。
首批支持模型
Provisioned Throughput 首发支持两款模型:MiniMax M3 与 GLM-5.2。Together AI 一直以托管多种开源大模型见长,此次首批上线的前沿模型组合为该服务奠定了基础。从产品形态来看,Provisioned Throughput 介于「完全 serverless」与「专用集群租赁」之间,目标用户是需要稳定推理能力但又不希望自行运维 GPU 集群的中型团队。Together AI 在公告中附带了产品文档链接,开发者可前往官网查阅部署细节。
