aiCompiler：把 LLM 当 CPU 用的 Markdown 编程语言

aiCompiler 是一个新发布的开源项目，它把大语言模型（LLM）类比作计算机的「CPU」，提出了一种基于 Markdown 的 LLM 工作流编程范式：用户用纯文本写工作流，由编译器解析为「语义字节码」，再由一个以 LLM 为执行引擎的虚拟机 aiVM 逐条运行。

项目定位

官方将 aiCompiler 定位为「不是框架，也不是 Agent 封装器，而是一种新的计算范式」。与 LangChain、LangGraph 等需要写 Python 代码来编排 LLM 调用的方案不同，aiCompiler 要求用户写的是 Markdown（.aic）源文件，由编译器在编译期消解语义歧义，生成结构化的 .aix 字节码，再交给 aiVM 调用 LLM 执行。

官方用一张对照表把传统冯·诺依曼架构与 aiVM 一一对应起来：

• CPU ≡ LLM 引擎
• 内存 ≡ 上下文窗口
• 缓存 ≡ .aix 锁文件（相同源文件可直接复用）
• 寄存器 ≡ 步骤状态（如 $step_1.output、$input.x）
• 系统总线 ≡ 工具适配器（数据库、邮件、API、HTTP）
• 硬盘 ≡ KV 存储 + 向量数据库
• ROM/BIOS ≡ 系统提示词

这一对照更多是营销概念，但确实勾勒出了项目对自身抽象层次的定位。

使用流程

按文档说明，三步即可运行：

• 用 Markdown 写一个 .aic 文件，定义工作流、步骤和工具调用。
• 运行 aicompiler compile app.aic，生成 JSON 格式的字节码 .aix。
• 运行 aivm run app.aix，aiVM 逐条读取 opcode，调用真实工具，返回结构化结果。

官方提供在线 Playground，无需安装、账号或 API 密钥即可试用，可选用 Llama 3.3 70B 作为示例模型。底层调用统一走 Cloudflare AI Gateway，支持 Claude、Gemini、Nova Micro、Llama 等多种模型，通过开关即可切换。

开源与可复现性

项目以 MIT 协议开源，主要卖点包括：

• .aix 字节码格式为开放规范，可自行实现兼容运行时。
• .aix 锁文件保证相同源文件编译结果完全一致，便于版本管理和可复现构建。
• 每一步都产生结构化日志（步骤名、输入、输出、耗时、错误处理），便于调试，而非一团模糊的 LLM 输出。
• 支持在编译与运行之间注入工具绑定、重试策略、安全规则、模型选择等配置。

现阶段局限

需要指出的是，目前公开材料以类比和概念图为主，缺少以下关键信息：

• 与 LangChain、LlamaIndex 等成熟框架的能力、性能、成本对比数据。
• 把 LLM 当作「CPU」逐 opcode 执行的实际 token 消耗、延迟和错误率基准。
• 复杂、多步骤工作流下的稳定性证据。
• Playground 中的示例仍停留在类似「Greeter」的简单流程，距真正替代现有框架尚有明显距离。

总体来看，aiCompiler 提供了一种有趣的「LLM 即运行时」抽象和开源参考实现，但距离大规模生产可用仍有相当距离。