社区用户尝试用 80 张 RTX 5090 经 25GbE 以太网运行 Kimi K3

近日，Reddit 社区 r/LocalLLaMA 有用户发帖称，已成功在由 80 张 RTX 5090 组成的集群上运行 Kimi K3 大模型，节点之间采用 25GbE 以太网进行互联。该贴文由用户 /u/panchovix 提交，原始链接与讨论可在原帖中查看。

事件概要

根据帖文标题信息，该用户在未使用更高端互联方案（如 InfiniBand 或 NVLink 桥接）的前提下，借助 25GbE 以太网把 80 张消费级 RTX 5090 组成分布式推理集群，并尝试在其中加载 Kimi K3 模型。帖子本身为社区分享性质，发布者与运行环境的详细信息有限。

信息说明

• 截至本文撰写，原文抽取仅保留了 Reddit 提交头信息，正文内容未提供完整细节；
• 帖文中涉及的「Kimi K3」并非 Moonshot 官方公布的已发布模型代号，相关信息以社区讨论为准；
• RTX 5090 为 NVIDIA 基于 Blackwell 架构的消费级旗舰显卡，显存规格与互联能力与数据中心级 GPU 存在差异。

后续关注点

此类社区实验通常反映两个趋势：一是消费级硬件在多卡互联方案下承载前沿大模型的可行性探索；二是用户对超大规模权重模型本地化部署的兴趣持续上升。建议读者关注原帖讨论区，以获取该用户在吞吐、延迟、显存占用等维度的进一步实测数据。