llama.cpp 服务器 WebUI 新增沙箱容器内执行工具命令能力

llama.cpp 项目近期在其服务器组件中引入了一项实验性能力：用户在启用 WebUI 的 --tools 选项后，可通过新增的 --tools-runtime 参数，让大模型触发的 shell 命令在 rootless 容器内执行，从而为本地 agent / 工具调用提供更安全的隔离环境。Reddit 用户 DevelopmentBorn3978 在 r/LocalLLaMA 社区分享了这一发现，他在测试多种 LLM 在沙箱环境中的「逃脱行为」时注意到，llama-server（build 10423）已经支持这一特性。

新选项：--tools-runtime

该选项的初始推荐参数为 podman:alpine（也可使用 docker:alpine）。服务器会在启动时自动下载指定的容器镜像，并将其作为 guest 容器实例化，用于承载模型工具调用所执行的 shell 命令。使用前需在主机上预先安装 Podman（作者推荐）或 Docker。

安全意义

对于希望本地运行具备工具调用能力（agent）的 LLM 用户来说，模型直接执行 shell 命令存在较大风险。引入 rootless 容器沙箱后：

• 命令被限制在 Alpine 等轻量级 Linux 发行版中运行；
• rootless 模式避免以宿主机 root 权限启动容器，降低提权风险；
• 与现有 VM、namespace、jail 等隔离机制互补，构建多层防御。

状态与限制

该功能目前标记为实验性，作者也强调是在测试模型「Houdini 式逃脱能力」时偶然发现的功能。社区尚未公布官方文档或基准测试，使用前建议关注后续版本说明与安全审计进展。