Ghost:面向本地大模型的 macOS 桌面 Agent 套件
独立开发者发布 macOS 原生应用 Ghost,连接 Ollama 与 LM Studio 等本地模型,内置本地 RA…
独立开发者 u/Tunashavetoes 在 Reddit r/LocalLLaMA 板块发布了一款名为 Ghost 的 macOS 原生应用。该应用面向本地大模型用户,旨在为 Ollama、LM Studio 等本地推理引擎提供统一的图形界面、工具调用框架与本地化 RAG 检索能力,而无需依赖浏览器或将多个项目拼凑在一起。
本地模型适配机制
Ghost 在首次启动时会自动探测本地模型的各项能力,包括是否支持原生工具调用、是否启用 JSON 模式、结构化输出准确度等,并据此为每个模型分配调用约定:native_tool_calls、json_action_mode、harness_first 或 answer_only。这意味着即便模型本身不原生支持 function calling,也能通过结构化 JSON 路径获得工具访问能力,并在工具调用不可靠时优雅降级,避免静默失败。
除 Ollama 与 LM Studio 外,Ghost 同样支持 Claude、Gemini、DeepSeek、OpenCode Go、OpenCode Zen 等托管模型,用户可按问题类型选择不同模型作答。本地与云端模型在界面内可被同等路由。
本地化 RAG 实现
RAG 模块基于本地 SQLite 数据库构建,启用 FTS5 全文检索与 WAL 写入模式。文档切分采用按句感知的分块策略,单块约 3,500 字符、相邻块重叠 500 字符,并保留 PDF 与 Markdown 文件的元数据。索引通过 FSEvents 与系统保持实时同步,去抖间隔 8 秒,单次扫描最多处理 5 万个文件。
- 支持 30 余种文件格式,覆盖所有主流编程语言
- 查询结果以块级粒度返回,带原始文件路径定位
- 点击检索结果可直接跳转到对应文件的指定行
- 全程不上传数据,不依赖任何向量数据库 SaaS
工具调用与权限框架
模型从不直接访问文件系统,而是向 Ghost 请求具体动作。应用在收到请求后会规范化路径、检查权限、执行应用内置的 Swift 代码,并返回机器可读的回执。该系统内置 60 余项工具,涵盖文件操作、PDF/DOCX/PPTX 文档生成(基于 macOS 原生框架)、grep、glob、zip、Calendar、Reminders、屏幕 OCR 与语音输入。
安全机制包含四个风险等级与五项独立的权限开关,默认全部关闭。应用还提供可回滚的撤销日志,前后快照保留最近 100 项操作,便于出错时还原。
定价、隐私与系统要求
Ghost 提供 2 天免费试用,售价为 10 美元一次性买断。使用本地模型功能始终免费,接入托管模型则需用户自行提供 API 密钥。API 密钥统一存于 macOS 钥匙串中;当连接 Ollama 或 LM Studio 等本地提供商时,Agent 模式不可被启用,所有数据均保留在本机。
应用已通过 Apple 公证,仅支持 macOS 14 及以上系统。项目代码托管在 GitHub(ryuhemingway/Ghost-App),官网为 integratedagentics.com/ghost。开发者表示希望听取本地 LLM 用户在工具调用可靠性、可探测模型类型等方面的反馈。
