PrismML 将极小 LLM 移植至高通智能眼镜芯片

由加州理工学院研究人员创立、AI Lab 顾问为加州大学伯克利分校 Ion Stoica 的初创公司 PrismML，近日在高通骁龙峰会上展示了其面向智能眼镜的极小语言模型。该模型采用 1-bit 量化，可在搭载高通骁龙 AR1 Gen 1 平台的 AI 智能眼镜上完全本地运行。

模型规格与技术路线

PrismML 此次展示的 Bonsai LLM 参数量为 20 亿，专门针对视觉与语言任务进行了微调，可让佩戴者实时询问眼前所见内容。据该公司此前介绍，其核心技术能将更大的模型压缩到原来的四分之一，同时在标准 benchmark 上保留几乎全部性能表现。1-bit 量化进一步压缩了模型体积与算力需求，使其能够塞进功耗受限的智能眼镜 SoC。

端侧 AI 的长期愿景

PrismML 的整体方向是推动开放权重模型在终端设备上运行，更充分地利用现有硬件的计算能力。公司将这一路径定位为替代方案：相对于依赖闭源大厂的隐私承诺以及其对算力的无限索取，端侧推理可以让数据保留在本地并降低推理延迟。

落地进度尚处早期

尽管本次展示意味着 Bonsai LLM 已经可以跑在骁龙 AR1 平台上，但目前尚未有任何搭载 PrismML 的智能眼镜产品正式发布。从技术演示到实际商用，模型适配、功耗调优、应用生态等环节仍待补齐。PrismML 与高通的合作可视为其迈向终端 AI 的第一步，后续是否会有 OEM 厂商采用仍需观察。