工具
Nous Research 发布本地推理栈 Actual,主打低 CPU 占用与跨平台
Nous Research 推出本地推理工具 Actual,强调低 CPU 占用与跨平台可移植,可与 Hermes Ag…
2026.08.06 · 周四约 2 分钟阅读
Nous Research 在其官方 X 账号上宣布推出一款名为 Actual 的本地推理栈(local inference stack),定位为面向个人算力场景的轻量化推理工具。该工具强调在使用过程中对 CPU 占用较低,并具备多平台可移植性,便于开发者在不同操作系统上部署。
核心特性
- 低 CPU 占用:在推理运行时尽量减少对处理器资源的消耗,适合算力有限的本地环境。
- 跨平台可移植:支持多操作系统,便于在不同硬件与系统之间迁移与部署。
与 Hermes Agent 的搭配
Nous Research 在介绍中特别提到,Actual 适合作为其自家 Hermes Agent 的本地推理配套工具使用。Hermes Agent 是 Nous Research 此前推出的开源智能体框架,Actual 的发布意在为该框架提供一个更轻量、本地化的推理后端选择,方便用户在自有设备上运行 Agent 相关任务。
现状与限制
截至目前,Nous Research 仅通过社交平台发布了一段简要说明,未公开以下关键信息:
- 具体支持的模型范围与硬件加速选项(如 GPU/NPU 适配情况);
- 性能基准(throughput、latency 等)数据;
- 许可证类型与开源仓库地址;
- 与其他主流本地推理框架(如 llama.cpp、Ollama、vLLM 等)的对比。
对希望在本地运行 Hermes Agent 的开发者而言,Actual 的出现提供了一种新的轻量化选择,但若需评估其实际能力,仍需等待更详细的技术文档与基准数据公开。
