llama.cpp 全面支持 MCP，本地模型可实现代理式对话

开源大模型推理框架 llama.cpp 正式合并了对 MCP（Model Context Protocol）的完整支持，由社区开发者 ngxson 牵头推进。这意味着本地部署的大模型第一次可以在 llama.cpp 的 WebUI 中直接作为「代理式聊天」客户端使用，无需额外依赖即可接入 MCP 服务生态。

背景：MCP 是什么

MCP 是由 Anthropic 提出的开放协议，用于在大模型与外部工具、数据源之间建立标准化连接。通过 MCP，模型可以调用搜索、文件读取、代码执行、API 调用等外部能力，实现「代理（agent）」式工作流。此前 MCP 主要在 Claude 桌面端、Cursor 等客户端中可用，llama.cpp 作为纯本地推理框架，对 MCP 的支持一直缺失。

这次更新的关键变化

根据合并的 PR（ggml-org/llama.cpp#26062），本次更新实现了 MCP 的全协议覆盖：

• HTTP over-the-web 类型的 MCP 服务器此前已可在客户端使用，无需额外适配。
• stdio 类型的 MCP 服务器需要深度集成，本次通过将 llama-cli 终端客户端改为复用已有服务端路径完成接入。
• 接入后，llama.cpp 的 WebUI 即可作为完整代理聊天界面运行。

配置方式上提供了两种选择：

• 使用标准 JSON 配置文件统一管理 MCP 服务器。
• 在命令行按需内联配置，适合临时调用特定 MCP 服务。

实际应用场景

最直接的受益场景是本地代码代理。例如接入专为编码设计的 MCP 服务器（如 Serena），即可在 llama.cpp 上构建一个完全本地化的编程助手，模型权重和工具调用链路都不必离开本机。对于关注数据隐私、希望离线使用大模型代理能力的开发者而言，这是重要的能力补齐。

生态意义

llama.cpp 是目前本地部署 LLM 最主流的推理框架之一，活跃度高、覆盖硬件广。MCP 支持的加入，使得开源本地模型的工具调用能力首次具备与商业客户端相当的可扩展性，也为后续更多 MCP 服务器在本地环境落地提供了基础。