桃子桃子快讯
返回首页
行业动态

Together AI 月 Token 调用量增长超万倍

Together AI 月 Token 调用量从 300 亿增长至 400 万亿,增幅超万倍。

2026.08.02 · 周日2 分钟阅读

AI 推理云平台 Together AI 近期披露,其月 Token 调用量从 300 亿(30B)增长至 400 万亿(400T),增幅超过 10,000 倍。这一数据由投资人 Josh Wolfe 在公开活动中与 Together AI 团队交流时提及,并在 Together AI 官方 X 账号上发布。

增长幅度与核心数据

Together AI 的增长数据呈现出明显的指数级曲线:月 Token 调用量从 30B 级别跃升至 400T 级别,跨越了约四个数量级。Together AI 在帖子中以表情符号「📈」标注了这一变化,并将其定义为「10,000x growth」。

增长驱动因素

Together AI 将这一增长归因于两类客户的共同推动:

  • AI 原生公司(AI-native companies):以大模型为核心产品的初创企业,将推理工作负载大规模迁移至 Together AI 平台。
  • 传统企业(enterprises):大型企业在生产环境中采用开源模型(open models)替代部分闭源方案。

Together AI 方面表示,客户正在将「规模化工作负载(scaled workloads)」迁移到开源模型之上,平台因此承接了持续放大的推理流量。

行业背景

Together AI 是面向开源大模型的推理与训练云平台,支持 Llama、DeepSeek、Qwen 等主流开源权重的部署服务。过去两年,随着开源模型性能逼近闭源方案、推理成本持续下降,越来越多的企业和开发者选择将推理任务托管至专业云厂商,而非自建 GPU 集群。Together AI 公布的万倍增长数据,正是这一行业迁移趋势在单一平台上的集中体现。

信源