工具
Off Grid：Mac 本地一体化运行聊天、图像与语音 AI 工具发布
开发者推出 Off Grid，本地运行 llama.cpp 文本、Stable Diffusion 图像、Whisper…
2026.06.29 · 周一约 3 分钟阅读评分 30
评分细项加权总分 30
- 重要性
- 25
- 新颖性
- 32
- 影响面
- 25
- 可信度
- 40
- 实质性
- 48
一款面向 macOS 的本地 AI 一体化工具 Off Grid 在 Hacker News 上以 Show HN 形式发布。该项目把聊天、图像生成、语音转写、文本转语音等多项能力整合到单应用中，所有推理均在本地完成，不依赖云端服务。
产品形态与核心功能
Off Grid 提供两种使用模式：
- 纯网关模式：以无界面方式运行，仅暴露本地端点。
- 完整工作台（Studio）模式：包含对话界面、文档 RAG、实时 artifact 渲染以及 MCP 连接器。
开发者强调的应用场景包括：无网络环境下的对话、对保密文档的离线摘要、利用本地 GPU 批量生成图像以免去云端计费，以及替代付费听写工具等。
技术栈与底层组件
项目底层整合了多个开源推理引擎与模型：
- 文本：基于 llama.cpp 运行本地大语言模型。
- 图像：基于 stable-diffusion.cpp 启用 Metal 加速，预装 SDXL-Lightning 与 Z-Image-Turbo 模型。
- 语音识别：使用 Whisper 在本地完成转写。
- 语音合成：通过 Kokoro 生成语音。
- 数据层：使用加密本地数据库存储对话，LanceDB 承担向量检索。
- 界面：基于 Electron 与 React 构建。
开发者接口与开源情况
Off Grid 在 127.0.0.1:7878/v1 暴露与 OpenAI 兼容的 HTTP 端点，允许 Claude Code 或其他 OpenAI 客户端直接指向本地模型，从而在零 token 成本下运行多轮调用与开发循环。
项目采用 open core 模式，核心代码以 AGPL 协议开源，macOS 已提供签名构建版本，Windows 版本计划中。开发者声明：模型下载完成后，核心组件不会发起任何网络调用，推理与数据均保持在本地机器。
社区反响
截至发稿，该 Show HN 帖获得约 8 个点赞、0 条评论，尚处于早期曝光阶段。本地 AI 运行工具市场已有 Ollama、LM Studio、GPT4All、Jan 等多个成熟项目，Off Grid 的差异化主要体现在将文本、图像、语音以及开发者 API 端点统一整合到一个面向 macOS 的工作台中。