高通收购 Nexa AI 并开源端侧 GenAI 运行时 GenieX

高通宣布收购 AI 公司 Nexa AI，并同步将旗下端侧生成式 AI 推理运行时 GenieX 以 BSD 3-Clause 许可证开源。GenieX 是 Qualcomm GENIE 的社区版本，面向 Hexagon NPU、Adreno GPU 与 CPU，可在骁龙设备上本地运行来自 Hugging Face 的 GGUF 模型或来自 Qualcomm AI Hub 的预编译模型包，覆盖 LLM 与 VLM 两大场景。

双运行时架构，覆盖更广也追求峰值性能

GenieX 在底层同时集成两条推理路径，开发者可按需选择：

• llama.cpp（llama_cpp）：支持任意 Hugging Face GGUF 模型，推理可在 NPU、GPU、CPU 之间灵活调度，适合"自带模型"的场景，建议选择 Q4_0 精度以获得最佳 Hexagon NPU 支持。
• Qualcomm AI Engine Direct（qairt）：仅在 NPU 上运行，加载 Qualcomm AI Hub 按芯片预编译的模型包，能发挥骁龙平台峰值性能。

两条路径共用一套 C SDK，并通过 CLI、Python、Kotlin/Java、Docker 以及 OpenAI 兼容服务器对外暴露接口，开发者可以用同一套 API 在不同设备上运行模型。

平台覆盖与接口

GenieX 目前仅支持高通骁龙平台，覆盖三类设备：

• Windows ARM64（PC）：Snapdragon X、X Elite，提供 CLI、Python 与本地服务器。
• Android（手机）：Snapdragon 8 Elite、8 Elite Gen 5，提供 Android SDK 与示例应用。
• Linux ARM64（IoT）：Dragonwing QCS9075，提供 CLI、Docker 与 Python。

没有现成设备的开发者还可以通过 Qualcomm Device Cloud 启动远程会话进行体验。在接口层面，CLI 端一行命令即可拉起对话或视觉问答，Python 端 API 与 Hugging Face transformers 风格保持一致，支持 from_pretrained() 与 generate() 流式输出；OpenAI 兼容服务器默认监听 127.0.0.1:18181/v1，可直接对接现有 OpenAI 客户端；Android 端则通过 Maven 依赖 com.qualcomm.qti:geniex-android:0.3.1 集成，并附带含聊天 UI 的样例应用。

开发者体验与上手示例

以 CLI 为例，使用流程被压缩为两步：

• 安装：Windows ARM64 下载安装包后打开新终端；Linux ARM64 一行 curl 安装脚本即可，无需 sudo。
• 运行：geniex infer google/gemma-4-E4B-it-qat-q4_0-gguf 即可加载 GGUF 模型推理；geniex infer ai-hub-models/Qwen2.5-VL-7B-Instruct 则使用预编译包在 NPU 上运行 VLM。

Python 接口示例中，AutoModelForCausalLM.from_pretrained("unsloth/Qwen3.5-2B-GGUF", precision="Q4_0") 即可加载 Qwen3.5 的 GGUF 量化版本，调用方式与 transformers 高度一致，VLM 模型通过同样方式加载后即可送入聊天模板生成。

开源与社区

GenieX 以 BSD 3-Clause 协议开源，使用还需遵守高通的使用条款。项目提供构建、运行与发布三类开发者文档，并欢迎通过 Slack 与 GitHub Issues 进行交流，PR 流程对分支命名、提交标题、pre-commit 检查以及公共 SDK 头部的 FFI 更新规则都有明确要求。此次开源意味着 Android、ARM PC 与 IoT 端的端侧大模型推理拥有了来自芯片厂商的一栈式方案，对想在骁龙设备上部署生成式 AI 的开发者来说是一个值得关注的新选择。