Atuin 开源终端 AI 服务端，支持自托管与本地模型
Atuin 团队开源其终端 AI 代理的服务端代码，支持接入任意 OpenAI 兼容接口与本地模型，便于用户自托管。
终端 AI 代理工具 Atuin 宣布将其服务端代码以开源形式发布，供希望在自有环境中部署的用户使用。Atuin AI 是一款专注于终端场景的 AI 代理，主打快速启动并自带一系列 agentic 工具，能够直接在命令行中协助用户工作。官方表示，虽然已为所有用户提供较为宽松的免费用量额度且不存储对话记录，但仍有一部分用户希望更严格地掌控自己的数据，尤其是来源于终端使用的数据，因此决定开源服务端。
项目构成与兼容范围
此次开源的服务端位于 GitHub 仓库 atuinsh/atuin-ai-server，核心逻辑基于同团队开源的 atuinsh/atuin-ai-core，即生产环境服务端所使用的同一套库。当前服务端支持任意符合 OpenAI Chat Completions 风格的接口，涵盖 Ollama、vLLM、LM Studio、llama.cpp、LiteLLM 等本地模型方案，也可以对接 OpenRouter 这类 OpenAI 兼容的云端服务。
部署方式
部署流程较为简洁：克隆仓库后将 config.example.toml 复制为 config.toml，再按说明填写端点、API key、默认模型等参数即可。官方给出了一个基于 Ollama 的最小配置示例，包含 llama3.1:70b 与 gemma4:e4b 两个模型别名。运行方式有两种：
- 从源码运行：需要本地安装 Erlang、Elixir 与 Gleam，执行
mix deps.get与mix run --no-halt即可启动。 - Docker 运行：通过
docker run挂载配置文件并映射 8080 端口，使用官方镜像ghcr.io/atuinsh/atuin-ai-server:latest。
若以 Docker 方式连接宿主机上的本地 LLM 服务（如 Ollama），端点应使用 host.docker.internal 而非 localhost，以避免解析到容器自身的回环地址。仓库 README 还介绍了服务端工具的配置方式，包括网页搜索与网页内容抓取等能力。
与客户端的连接
服务端启动后，用户可在 Atuin AI 客户端中将 endpoint 配置为对应的本地地址（如 http://localhost:8080），即可让终端代理走自托管的服务端完成推理。整个项目仍处于较早期的开源阶段，文档与示例以最小可用为目标，对希望尝试私有化部署终端 AI 代理的开发者来说，是一个值得关注的新选项。