开源
开发者微调 1.5B 模型实现自然语言转 Shell 命令,已开源
基于 Qwen2.5-Coder-1.5B 微调的 nl2sh 模型量化后仅 941 MB,可在笔记本 CPU 上以 3…
2026.08.14 · 周五约 2 分钟阅读
一位开发者 ThorOdinson246 在 Reddit r/LocalLLaMA 板块发布了一项个人项目:基于 Qwen2.5-Coder-1.5B 微调的轻量模型 nl2sh-1.5B,专门用于把自然语言指令转换为 Shell 命令。作者自称已经「谷歌」tar 命令相关参数长达十年,因此动手做了这个工具,以期减少日常搜索次数。模型经合并并量化为 Q4_K_M 后体积仅 941 MB,可通过 llama.cpp 在普通笔记本 CPU 上本地运行。
性能表现
- 在搭载 i5-11320H、4 线程的笔记本上,模型推理速度达 31.9 tok/s,中位响应时间 0.59 秒,运行时内存占用约 1.6 GB。
- 在 InterCode-ALFA 基准测试上得分 0.620,略高于未微调的 Qwen2.5-Coder-7B(0.613),但与 GPT-4o 的 0.73 仍存在差距。
- 作者同时提到还存在一个 3B 参数的变体版本,得分更高。
训练与方法
该模型以 Qwen2.5-Coder-1.5B 为基座,使用约 12.5 万条自然语言与对应 Shell 命令的配对数据进行微调。作者特别强调,模型未加入安全对齐层,因此如果用户输入不当指令,它有可能输出例如「清空根目录」之类具有破坏性的命令,使用时需自行把关。
开源与许可
- 模型权重已发布至 Hugging Face:huggingface.co/ThorOdinson246/nl2sh-1.5b-Q4_K_M
- 配套代码仓库:github.com/ThorOdinson246/whatisit-nl2sh
- 权重与代码均采用 Apache-2.0 协议开源,作者公开欢迎社区提交 PR 与改进建议。
