BeeNara：332MB 本地文档分类小模型，开源至 Hugging Face

一位开发者在 Reddit 社区 r/LocalLLaMA 上分享了自己近期完成的小型本地文档分类项目 BeeNara，并已将其模型、代码与基准测试结果开源在 Hugging Face。该项目主打「轻量、离线、敢说不知道」，针对小模型在文档归档场景中容易强行归类的痛点进行了专门设计。

项目背景：为什么做这件事

作者在日常使用中希望把本地的发票、信件、合同等文件自动分拣到对应文件夹。实践中他发现，即便像 Qwen3.5-4B 这类本地可运行的小模型，也普遍存在一个明显短板：当候选类别里没有合适的标签时，模型往往不会回答「我不知道」，而是倾向于强行把文档塞进某个看起来差不多的文件夹——也就是典型的「幻觉式分类」。在笔记本上单独为分档这种轻量任务运行大型模型，又显得过于昂贵。BeeNara 正是为填补这一空白而做的尝试。

模型与核心特性

BeeNara 是一个仅 332 MB 的 ONNX 跨编码器（cross-encoder）模型，使用方式非常直接：用户给定一份文档和一组自定义文件夹名称（如「Tax 2025」、「Invoices」等），模型即输出最匹配的目标文件夹。其主要特性包括：

• 零样本：直接使用纯文本文件夹名即可分类，无需微调或重训。
• 本地快速推理：完全离线运行，在笔记本 CPU 上单份文档分类耗时约 0.2–0.3 秒，无需 PyTorch 或独立 GPU，仅依赖 ONNX Runtime。
• 双语支持：同时支持英文和德文文档及文件夹名称。
• 高「无匹配」召回率：在基准测试中，对「正确文件夹不在候选列表」这类场景的识别率达到 96.8%。

技术亮点：Split-Conformal Prediction

BeeNara 最值得关注的机制是其置信度校准方式。作者采用了 split-conformal prediction（分割一致预测）方法，使模型输出的置信度具备严格统计意义上的校准。当模型对所有候选类别都不够确信，或没有真正合适的文件夹时，它会直接返回「none fits」，并将该文档标记为待人工复核，从而显著降低「强行分类」的误判风险。

使用与定位

BeeNara 最初被设计为一个本地文档归档工具中的「类别决策器」，但作者表示可以作为一个独立的 Python 模块直接调用，适合用于任何需要快速、可信、本地化的轻量文本分类场景。开发者本人也在帖子中坦诚说明了其作者身份，以便读者评估参考。