LightSwitch：把 LLM 推理「搬进」光纤与卫星链路的开源模拟项目

LightSwitch 是一个以「在光网络中执行大模型推理」为构想点的开源项目，目前以 Python 软件模拟为主，配合一份白皮书说明其设想的光子计算架构。项目尚未在真实光子硬件上完成端到端验证，所列性能数据均来自仿真推算。

项目定位与核心思路

项目作者认为，传统 AI 数据中心受限于 GPU 的冯·诺依曼内存瓶颈和 HBM 显存搬运能耗，因此提出把推理过程「嵌入」光信号本身，让模型计算在数据包传输途中完成。其设想链路包括：客户端经铜缆或 Wi-Fi 发出 token 化请求 → 边缘 PoP / P4 交换机完成初始层计算（15 ns） → 波分复用（WDM）光载波在 1550 nm C 波段单模光纤中传输 → LEO 卫星星座以激光链路接力 → 到达目的网关时最终 token 已计算完成。作者称这一架构可消除 GPU 排队延迟。

关键技术设想

• 1.58 比特三值量化：权重限定为 {-1, 0, +1}，把浮点乘法替换为光学相长/相消干涉与整数加减，号称实现「0 次浮点乘法」。
• 静态权重表：权重矩阵驻留在 TCAM、UltraRAM 或微环谐振器的路由表中，规避 HBM 数据搬运。
• 亚 2 纳秒包分类器：交换机在 < 1.5 ns 内解析包头，区分 AI 推理流量与 Netflix、Zoom、HTTPS 等普通流量。
• 现成 COTS 硬件：作者列举 AMD Xilinx UltraScale+ FPGA SmartNIC（约 €2,800）与 Intel Tofino 2 P4 交换机（约 €8,500）作为潜在部署载体。

仿真结果与成本对比

项目附带一个 3 年 TCO 对比表，对比传统 8×H100 GPU 服务器与三类候选方案。需要指出，下表数字来自项目自带的仿真模型，并非实测：

• 传统 8×H100 服务器：CAPEX 约 €280,000，3 年总 TCO 约 €350,815，功耗 10,200 W。
• 3× FPGA SmartNIC 集群：CAPEX 约 €8,400，3 年 TCO 约 €9,962，功耗 225 W，作者给出的相对节省约 97%。
• 3× P4 可编程交换机集群：CAPEX 约 €25,500，3 年 TCO 约 €30,707，功耗 750 W，节省约 91%。
• 3× Ayar Labs 硅光 CPO 引擎：CAPEX 约 €36,000，3 年 TCO 约 €36,729，功耗 105 W，节省约 90%。

电费按 €0.22/kWh、PUE 1.2 估算。

代码仓库与白皮书

仓库采用 MIT 协议开源，主要目录包括 core/（编码器、交换机、三值加法引擎）、simulation/（光纤信道模型、异构网络模拟、包分类器）、benchmarks/（与 H100 的 FLOPs/延迟/能耗对比、3 年 TCO 财务引擎）以及 docs/（白皮书、硬件架构指南、路线图）。项目声称附带的白皮书涵盖 Maxwell 波动方程推导、MZI 光网格与 QSFP28 引脚定义等理论内容。运行方式为标准 Python 3.10+，无需复杂依赖，支持 python3 main.py --prompt "..." 的交互式 CLI 与自动测试套件。

现状与边界

LightSwitch 目前仍是一个软件模拟原型，核心数字来自 numpy、matplotlib 等组件的数学仿真，而非真实光子芯片或 FPGA 部署数据。项目自述目标是申请 EIC Pathfinder 等欧洲深科技资助，并推动与电信网络的集成设想。对于关注光子 AI、网络内计算（in-network compute）方向的从业者，它可以作为参考架构与术语索引；但若要在采购决策或论文中引用其能耗数据，仍需等待真实硬件验证。