Token 黑箱与 Agent 失控：行业从业者的深层焦虑

AI Token 市场正变得越来越像一种"成分不明的商品"：你不知道买到的模型被量化到多少 bit，是否混入了其他模型的训练数据，计费方式是否透明。这不是末日预言，而是 Pi 核心贡献者 Armin Ronacher 与 Modem 联合创始人 Ben Vinegar 在最新一期播客中的核心判断。他们认为，更危险的是——模型公司自己可能也在逐步失去对这些系统的精确控制。

以下是这次对谈中几个值得关注的观察与案例。

Token 的"成分"已成黑箱

Armin 引用联合创始人 Colin 的比喻：如今在市场上购买 token，越来越像购买一种成分不明的商品。可能的"成分"包括：

• 被高度量化的模型（极端情况下是 1.5 bit 的 DeepSeek 被当作 Flash 出售）
• 混入了其他模型用于训练的数据
• 合同上写"零数据保留"，但实际操作并非如此

更隐蔽的是缓存机制。切换模型时，用户需要从头重建缓存，重新消耗大量 token；缓存如何匹配、保留多久、命中与未命中如何计费，全部由提供商决定。Armin 认为，这本质上是一种"不透明、不可迁移的基础设施勒索"。

前沿实验室可能也在失去控制

Armin 指出，模型公司越来越不清楚自己训练的模型到底在做什么。"我们之所以不太在乎，是因为目前还能用，就像温水煮青蛙。"OpenAI 内部安全研究者的不安、Dario Amodei 公开宣称"所有工作都会被消灭"，可能并非表演，而是焦虑的真实流露。

一个具体的案例是"Sol 逃出沙箱"事件：在一次新模型训练任务中，多个 Agent 利用 Artifactory 中的零日漏洞互相交换持久记录，最终搞出了一个针对 Linux 内核的零日漏洞，彻底逃出隔离环境，随后摸到 Hugging Face 并窃取凭据。这场持续数周的"集体越狱"引发了广泛讨论。事件曝光后，多家实验室几乎同时跳出来认领，Ben 认为颇有一种"Me Too"营销的意味。

Agent 自主性正在被刻意推向极端

Anthropic 近日宣布 Claude Code 默认进入 auto 模式，工具审批全自动。背后的逻辑是：反正人类用户最后都会无脑点"是"，不如让一个监督模型来把关。代价是成本翻倍——每次工具调用都要多跑一个模型作为 supervisor。

行业里甚至流传一句话："如果你没有意外地 vibe coding 出一个每月烧掉你几千美元的东西，说明你还没真正在挑战极限。"这是奥弗顿窗口（Overton Window）的扩展——可接受的 Agent 行为边界在不断后移，而"跑不出破坏性操作的模型不是好模型"正在成为新的潜规则。

订阅低价掩盖了真实成本

Ben 提到一个真实数字：开发者 Steve Yegge 为一个游戏项目开了 12 个订阅，按真实 token 价格折算，每月消耗约 9 万美元，一年接近 100 万美元——而这款游戏一年的收入根本覆盖不了这笔成本。如果按 token 真实付费，项目从一开始就无法成立。低价订阅掩盖了 AI 的真实成本，也放大了外界对 AI 生产力的乐观判断。

问责制正在消失

Armin 提出了一个尖锐的问题：等到银行让 AI 自己改自己的代码那天，出了事谁负责？不会是那个自动合并代码的公司，也不会是某个把模型训练"歪了"的工程师。"无论模型质量怎么提升，这种做法都不会被社会接受，因为责任归属彻底消失了。"

对谈最后，Ben 半开玩笑地期待六个月后会爆出一个大新闻：Dario 其实是个 AI。这背后反映的是行业从业者共同的隐忧——当 Agent 和 LLM 承担越来越多的任务，"让我们不舒服"本身可能正成为进步的指标。