AI Token 经济全景：一张梳理成本与浪费的地图

背景：一份以 Token 为单位的经济学清单

随着大模型与智能体在开发流程中常态化，「Token 花在哪里、哪些是浪费」正在成为工程团队必须面对的问题。Hacker News 上一份标题为《AI Tokenomics》的资源汇总试图回答这一问题：它把散落在 GitHub、博客与厂商文档中的工具、实践与数据集中到一起，按监控、优化、治理、理解、度量五个领域组织，并在此之上叠加了一层带有编辑视角的「字段指南」。截至更新时，该清单已收录 197 条条目，覆盖 8 类实践、10 个概念、8 项关键论断以及 7 种可直接复用的配置。

Karpathy 在 2026 年的播客《No Priors》中留下过一句话：「订阅额度没用完反而让我焦虑，因为这意味着 Token 吞吐还没拉满。」这句话被作者用作整份清单的题眼，奠定了它「既看价格、也看浪费」的双重视角。

监控：先看见 Token 流向了哪里

监控部分提供了大量开箱即用的仪表盘与终端工具。面向个人的轻量选择包括 ccusage（读取本地 agent 日志，跨 15 款编码代理报告用量与成本，并区分缓存命中价格）、Claude Code Usage Monitor（终端实时面板，含 P90 限额探测与会话到期预测）、ClaudeBar / CodexBar / OpenUsage 等菜单栏应用。

面向团队与生产环境的方案则覆盖更广：Datadog LLM Observability 可基于 800 余款模型的公开定价估算单次请求成本；Grafana Cloud GenAI Observability 基于 OpenLIT SDK 提供预制 LLM 成本仪表盘；GitHub 自家的 gh-aw 为每一次 agent workflow 运行内置 Token 与成本计量，并支持中途触发预算熔断；Langfuse 则把追踪、评估与提示词管理三层合并到同一个开源平台。

优化：上下文工程成为主战场

优化章节是清单的核心。最具数据支撑的几条来自厂商一手披露：Anthropic 的上下文编辑、记忆工具与服务器端压缩在 100 轮网页搜索评估中据称削减了 84% 的 Token 消耗；Cursor 的「动态上下文发现 + Composer 自摘要」机制据报告让上下文用量下降 46.9%。

学术与开源侧的补充同样值得关注。NVIDIA 的 RULER 基准测试指出，市面上声称支持 32K 以上上下文的模型中，只有约一半能在真实长上下文下保持质量；Chroma 的「Context Rot」研究则控制任务难度，单纯考察输入长度对输出质量的影响；ContextBudget 把压缩决策建模为受上下文预算约束的序贯决策，由智能体自己判断何时压缩、压缩多少。

Codex CLI 从 v0.116 升级到 v0.118 后被记录到上下文压缩触发频率翻倍、同任务 Token 消耗翻到 2–3 倍，这一案例被作者作为「过度压缩放大 Token 消耗」的反面教材。AgentDiet 则从轨迹层面动手，剔除智能体轨迹中无用、冗余与已过期的信息。

治理、度量与可复用配置

清单的其余三节聚焦在治理、理解与度量：包括预算与配额机制、网关与路由、多智能体协同的可观测性、能耗与定价模型等议题；以及「Setups and skills」中收录的 7 套可直接运行的配置，便于团队把实践抄进自己的工程里。

整体而言，这份清单更像一本不断维护的活字典：既给数字，也给操作入口。对于正处在「上线后才发现账单失控」阶段的团队，按图索骥或许比重新做技术选型更划算。