小型 TTS 模型 CPU 基准：Pocket TTS 架构独特，UTMOS 评分存盲区

近日，Reddit 用户 gvij 发布了一项针对小型文本转语音（TTS）模型的 CPU 推理基准测试，覆盖 Kokoro 82M、Supertonic 3、Inflect-Nano-v1 以及 Kyutai 新发布的 Pocket TTS 四款模型。测试采用客观 MOS 评分（UTMOS）作为音质衡量指标，并系统地记录了各模型在不同文本长度下的实时率（RTF）。作者特别强调，Pocket TTS 采用流式语言模型架构，与该领域的其他模型存在显著差异，因此做了这次横向对比。

测试模型与硬件环境

纳入测试的四款模型各具特点：

Kokoro 82M：基于 StyleTTS2 思路，分别测试 PyTorch 与 ONNX Runtime 两种后端。
Supertonic 3：基于 Vector Estimator 的流匹配架构，测试 2 步与 5 步两种推理配置。
Inflect-Nano-v1：仅 4.6M 参数的 FastSpeech 风格轻量模型。
Pocket TTS：约 100M 参数，基于 Kyutai 自研的 Mimi 神经音频编解码器构建的流式语言模型。

测试平台为 Intel Xeon 8272CL（4 核、15.6 GB 内存），关闭 CUDA，ONNX 会话固定使用 CPUExecutionProvider。作者设置了六种文本长度（12–1712 字符），每种配置进行五次计时，剔除预热后共完成 180 次推理，并对所有生成的 WAV 文件使用 UTMOS 的 utmos22_strong 模型打分。

汇总结果

按平均 RTF 与 UTMOS 综合排序如下：

Supertonic 3（2 步）：RTF 0.121，UTMOS 1.53
Inflect-Nano-v1：RTF 0.145，UTMOS 3.48
Supertonic 3（5 步）：RTF 0.240，UTMOS 4.32
Kokoro 82M（ONNX）：RTF 0.641，UTMOS 4.44
Kokoro 82M（PyTorch）：RTF 0.665，UTMOS 4.46
Pocket TTS：RTF 0.714，UTMOS 4.10

值得关注的四点发现

流式 LM 架构带来平稳的 RTF 扩展性。 Pocket TTS 在整个文本长度范围内，RTF 始终保持在 0.69 到 0.76 之间，呈近乎线性的扩展。其代价仅与输出长度相关，没有需要摊销的固定开销。相比之下，Kokoro PyTorch 在短输入时 RTF 为 0.49，长输入时升至 0.83；Supertonic 则相反，短输入为 0.36、中等输入降至 0.20，反映出较高的固定调用开销。对于需要预估最坏延迟的交互系统而言，平稳的 RTF 具有显著价值。

UTMOS 在小型声码器上存在已知失效模式。 Inflect-Nano-v1 虽取得 3.48 的中等评分，但作者实际听感为「嗡嗡作响、机械感强」。这是 UTMOS 的一个已知问题——它倾向于给 HiFi-GAN 输出打出干净的分数，即便缺乏韵律自然度。Pocket TTS 评分与之接近（4.10），但听感自然许多。作者指出，单一音质分数无法区分「干净但机械」与「干净且自然」，建议结合人工听感或 NISQA 等自然度专用指标使用。

Inflect-Nano 存在约 15 秒的输出上限。 模型配置中 max_frames = 1400 将合成时长限制在约 14.93 秒，与输入文本长度无关。因此该模型在长文本测试中的 RTF 与吞吐数据被人为压低，与其他模型的对比仅在短文本范围内有效。

Kokoro 的 ONNX 与 PyTorch 排序在不同 CPU 上会反转。 作者此前在 AMD EPYC 上测试时 PyTorch 优于 ONNX，本次在 Xeon 上 ONNX 反而更快（0.641 对 0.665）。同一套代码在不同硅架构上排名翻转，说明 CPU 推理层面的内核优化差异确实足以改变排序。

Pocket TTS 的零样本克隆能力未被纳入评分

Pocket TTS 具备从约 5 秒参考音频中进行零样本声音克隆的能力，且可在 CPU 上运行。作者表示，本次基准中其他三款模型均不具备此能力，因此为保证公平，Pocket TTS 被固定为预设音色，克隆能力未体现在评分中。RTF 与 MOS 这类指标难以捕捉只有某一模型独有的能力，作者建议未来版本中单独加入说话人相似度评估。

测试局限性

仅使用单一硬件平台（Xeon 8272CL）；
仅覆盖英文；
UTMOS 只是众多 MOS 预测器之一，缺少人工听感或 NISQA 补充；
未评估声音克隆质量；
未测试批处理推理。

方法论说明

作者披露，本次基准测试的代码由 AI 工程代理（名为 Neo）根据其指定的提示生成，但方法论选择、输出验证与音频审听均由作者本人完成。全部代码、原始 CSV（180 行）、MOS CSV（36 行）以及 WAV 样例均已在评论区提供的代码仓库中公开，供社区复现与评审。