Backstage 发布 LiteLLM 治理插件，支持企业级 LLM 用量管理

Spotify 开源的开发者门户框架 Backstage 近日迎来一款与 LiteLLM 代理配套的治理插件，让企业团队可以在 Backstage 界面内统一管理 LLM 虚拟 API 密钥、用量与预算。该插件面向 Backstage 1.50 及以上版本，分别提供基于 New Frontend System 的 React 前端组件和基于 New Backend System 的 Express 后端路由。

核心功能概览

插件在 Backstage 中新增了多个视图，覆盖从用量总览到密钥管理的完整链路：

• 首页 Widget：展示当前用户的核心 KPI，包括累计花费（USD）、输入/输出 Token 数、活跃密钥数量，并附带每日花费趋势图，支持 Today / 7d / 30d 周期切换。
• Overview 标签页：默认落地页，提供四个 KPI 磁贴（Total Spend、Total Requests、Success Rate、Total Tokens），并展示按模型维度的每日花费、Token 使用、请求量与成功率图表，以及累计花费与预算的对比。
• Keys 标签页：浏览、编辑、封禁与撤销虚拟密钥，每行展示别名、Key ID、创建/到期时间、预算进度条、TPM/RPM 限速以及可调用的模型列表。
• Generate New Key 对话框：可创建带预算、团队绑定、模型白名单与 TPM/RPM 上限的密钥，失败时（如别名重复）会以内联方式展示上游错误。
• Models 标签页：列出代理暴露的全部模型，展示每个模型的输入/输出单价与最大 Token 上限，支持按团队筛选。

安装方式

插件设计为在 Backstage monorepo 中使用，通过 workspace 依赖与 Backstage CLI 构建。提供两种安装方式：

• 从 monorepo 根目录以 yarn add file:../backstage-govai/packages/plugin-litellm 方式链接本地包；
• 将 packages 复制到 Backstage 的 plugins/ 目录并加入 workspace。

配置要点

需在部署环境中设置 LITELLM_BASE_URL（LiteLLM 代理地址）与 LITELLM_MASTER_KEY（管理员密钥）两个变量，并在 app-config.yaml 中完成对应配置。主要可配置项包括：

• baseUrl / publicBaseUrl：代理的基础 URL 与对外可访问 URL，后者用于在密钥生成对话框中生成可直接复制的 curl / OpenAI SDK 代码片段；
• masterKey：管理员密钥，标记为 @visibility secret，不会暴露给前端；
• userIdDomain：可选的邮箱域名后缀，用于将 Backstage 用户实体映射为 LiteLLM 的 user_id；
• provisioning：自动开通 LiteLLM 用户的策略，默认关闭。开启后可配置默认最大预算（默认 10 USD）、预算重置周期（默认 30d）、允许调用的模型列表、加入的团队以及用户角色（默认 internal_user），还可设置 TPM/RPM 上限与元数据；
• roles：基于 Backstage 群组的角色化开通策略，按顺序匹配，首个命中项生效，可覆盖默认预算、周期、模型与角色；
• keyGeneration：控制「Generate New Key」表单的交互，例如是否允许无限预算（默认不允许）、是否强制选择团队（默认强制）。

整体来看，该插件将 LiteLLM 的虚拟密钥、用量监控与预算管控能力嵌入企业已有的内部开发者门户，为工程团队提供了一条相对轻量的 AI 治理落地路径。