Perplexity 开源本地推理引擎 Lily，聚焦 Apple silicon 混合计算

Perplexity 近日在 X 平台宣布，正式开源其自研的本地推理引擎 Lily。该引擎专为「Perplexity Computer」中的混合计算场景设计，目标是在端侧设备上高效运行模型，避免本地算力成为任务瓶颈。

开源内容：聚焦本地推理的端侧引擎

根据 Perplexity 官方发布的信息，Lily 是一个本地推理引擎（local inference engine），其核心定位是为混合计算（hybrid compute）提供端侧加速能力。本次开源意味着开发者可以在本地部署与集成该引擎，并基于其能力扩展更多端侧 AI 场景。

• 引擎名称：Lily
• 类型：本地推理引擎
• 适用场景：Perplexity Computer 中的混合推理任务
• 设计目标：让端侧算力不成为任务瓶颈

硬件与模型适配

Lily 的首个明确适配对象是 Qwen3.6-35B-A3B 模型，并针对 Apple silicon 进行了专门优化。结合 Apple silicon 在统一内存与能效比方面的特性，Lily 旨在让中等规模的大模型在 Mac 类设备上获得更流畅的推理体验。

• 优化目标硬件：Apple silicon
• 目标模型：Qwen3.6-35B-A3B
• 定位：避免本地推理成为系统瓶颈

行业意义与待观察点

对 Perplexity 而言，将推理引擎以开源形式释放，有助于吸引开发者参与共建，并推动「Perplexity Computer」成为可被外部扩展的平台。对于关心端侧大模型推理的开发者来说，Lily 提供了一个直接可用的工程参考实现。

需要注意的是，目前官方披露的技术细节仍然有限，包括推理吞吐量、内存占用、与主流推理框架（如 llama.cpp、MLX 等）的对比基准，以及长期维护计划等关键信息尚未公开，相关进展有待 Perplexity 后续补充。