Leiolai：用手机跑推理，号称 1100 万 token 上下文

Leiolai 是一款于 Hacker News 上以「Show HN」形式亮相的 AI 推理产品，其核心思路是不依赖数据中心，而是在用户已有的智能手机等设备上运行模型。开发者声称，这种方式在降低能耗与水耗的同时，会将一部分收益以「算力贡献」的形式返还给用户。

产品形态与商业模式

按照发布者描述，Leiolai 提供 iPhone 与 Android 端的免费应用，无需绑定信用卡即可使用。用户可以"贡献算力—获得收益—升级芯片等级"，进而解锁更多计算配额，应用本身不收取额外费用。开发者可以通过兼容 OpenAI 协议的 API 调用模型服务。

• 输入价格：0.01 美元 / 百万 token
• 输出价格：0.02 美元 / 百万 token
• 上下文窗口：1100 万 token（leiolai-1）
• 输出长度：号称无上限，支持连续生成

技术主张与疑问

发布者将"leiolai-1 拥有 1100 万 token 上下文窗口"以及"移动设备分布式推理"作为主要卖点。但需要指出的是，该项目目前没有公开的技术白皮书、论文或第三方 benchmark 数据，HN 帖也仅获得 1 个点赞、0 条评论，社区关注度极低。在主流大模型普遍以 128K–1M 上下文为主的当下，1100 万 token 这一数字本身就需要相当扎实的技术证据支撑，目前未见任何独立验证。

定价方面，0.01 美元 / 百万输入 token 的价格显著低于一线厂商 API（如 OpenAI、Google、Anthropic 的主流档位），如此低价是否能在"向用户支付算力费"的商业模式中持续，仍是未知数。

现状与判断

综合来看，Leiolai 仍处于早期自宣阶段，缺少公开的模型架构、训练数据、推理延迟、并发能力以及能耗对比等关键信息。对于希望接入的开发者，建议先以低风险方式测试 API 的实际响应与上下文能力，再判断是否纳入生产链路。