桃子桃子快讯
返回首页
开源

开发者微调 1.5B 模型实现自然语言转 Shell 命令,已开源

基于 Qwen2.5-Coder-1.5B 微调的 nl2sh 模型量化后仅 941 MB,可在笔记本 CPU 上以 3…

2026.08.14 · 周五2 分钟阅读

一位开发者 ThorOdinson246 在 Reddit r/LocalLLaMA 板块发布了一项个人项目:基于 Qwen2.5-Coder-1.5B 微调的轻量模型 nl2sh-1.5B,专门用于把自然语言指令转换为 Shell 命令。作者自称已经「谷歌」tar 命令相关参数长达十年,因此动手做了这个工具,以期减少日常搜索次数。模型经合并并量化为 Q4_K_M 后体积仅 941 MB,可通过 llama.cpp 在普通笔记本 CPU 上本地运行。

性能表现

  • 在搭载 i5-11320H、4 线程的笔记本上,模型推理速度达 31.9 tok/s,中位响应时间 0.59 秒,运行时内存占用约 1.6 GB。
  • 在 InterCode-ALFA 基准测试上得分 0.620,略高于未微调的 Qwen2.5-Coder-7B(0.613),但与 GPT-4o 的 0.73 仍存在差距。
  • 作者同时提到还存在一个 3B 参数的变体版本,得分更高。

训练与方法

该模型以 Qwen2.5-Coder-1.5B 为基座,使用约 12.5 万条自然语言与对应 Shell 命令的配对数据进行微调。作者特别强调,模型未加入安全对齐层,因此如果用户输入不当指令,它有可能输出例如「清空根目录」之类具有破坏性的命令,使用时需自行把关。

开源与许可

  • 模型权重已发布至 Hugging Face:huggingface.co/ThorOdinson246/nl2sh-1.5b-Q4_K_M
  • 配套代码仓库:github.com/ThorOdinson246/whatisit-nl2sh
  • 权重与代码均采用 Apache-2.0 协议开源,作者公开欢迎社区提交 PR 与改进建议。
信源