llama.garden 用 BT/torrent 加速 LLM 权重分发

llama.garden 是一个利用 BT/torrent 协议为大语言模型权重提供去中心化分发的开源项目，最新一轮更新对 web seed、CDN 解析以及 seed box 管理脚本做了多处优化，并已为 unsloth 的一个 10TB 仓库成功制作 torrent，为后续承接超大开源权重（例如项目方提及的 K3）的分发做好准备。

项目机制与校验逻辑

llama.garden 分发的模型文件与 Hugging Face 上的特定 commit 完全一致。项目方在更新中强调了两层含义：一旦 torrent 经社区验证，文件即不可被篡改；用户也可以关闭其他 peer 与第三方 web seed，仅依赖 HF 自有 web seed 来独立校验文件 100% 匹配 HF 上的内容。这一机制在去中心化下载与官方源校验之间提供了一种兼顾速度与可信度的折中方案。

本次更新要点

• 新增通过自有 API 提供的 web seed URL，利用 HTTP 相比 UDP 的速度优势提升初始下载速度，随后再由 peer 接力进行更广泛的分发。
• 编写了将 HF CDN 链接解析为真实下载 URL 并进行缓存的 API，同时优化了对 qBittorrent 的 web seed 兼容性；但实测中 Transmission 客户端处理 web seed 效果更好，整体速度最快，仍是推荐客户端。
• 按社区反馈，将客户端中显示的 torrent 名称改为实际的仓库名称。此前因 web seed 兼容需要而展示为文件夹哈希值，可读性较差。
• 开源了多台远程 seed box（项目方称之为「pumps」）的管理脚本。这些 seed box 由社区赠送给项目，用于持续提供种子。

已为超大模型分发做好准备

项目刚刚为 unsloth 的一个 10TB 仓库制作了 torrent 并验证可用。这意味着当 K3（项目方提及的下一代主流开源权重）正式开放下载时，llama.garden 已具备承载十 TB 级模型分发的基础设施，能够借助社区 seed box 与 HTTP web seed 提供比单一 CDN 更快的下载体验。

使用建议

• 推荐使用 Transmission 客户端以获得最佳的 web seed 处理速度。
• 主动做种可提升客户端分配的下载优先级，长期做种有助于建立「reputation」，从而获得更快的下载速度。
• 若 HF 上的模型在 torrent 构建后被更新，需要重新构建 torrent 以保证哈希一致，否则校验将无法通过。

项目网站为 llama.garden，相关脚本与种子基础设施已在 GitHub 开源，社区可自由下载、验证或参与做种。