MLSecOps 实操手册开源：覆盖 AI 全生命周期的安全参考

近日，一份名为「MLSecOps Practical Reference Guide」的开源实操手册在 GitHub 上发布并更新至 v1.1.3 版本。该手册定位为面向 AI 系统安全、机器学习安全以及安全 MLOps 的从业者参考，覆盖从数据、训练到部署、运行时监控、SOC 与治理的完整 ML 生命周期。作者强调，这不是 OWASP、NIST 或 ISO 官方标准，而是一份独立整理的实操指南，遵循 CC BY-SA 4.0 协议。

内容框架与覆盖范围

手册综合了 OWASP AI Exchange、MITRE ATLAS、NIST AI RMF、ISO/IEC 42001、OpenSSF Secure MLOps 以及 CSA MAESTRO 等多个行业框架，并将其整合为一套可执行的实践体系。主要覆盖领域包括：

• MLSecOps 与威胁建模：范围、风险、自主 AI 威胁
• 数据安全与隐私：训练数据、PII、增强机密性
• AI/ML 供应链：模型制品、来源追溯、签名
• 安全 ML 流水线：十个控制点、CI/CD 门禁、证据包
• LLM 安全与 RAG：网关、护栏、Prompt 注入、检索 ACL
• Agent 与 MCP：工具策略、Intent Gate、范围执行
• 运行时与 SOC：监控、检测、事件响应
• 治理与合规：证据、成熟度路线、Kubernetes 模式

关键方法论

手册的核心增量贡献在于以下三点：

• 十个生命周期控制点：从变更发起贯穿到监控的完整线程
• 明确的发布决策：将证据生成步骤与阻塞门禁在控制点 4、7、8 区分，并在控制点 9 强调完整性
• Evidence Pack 证据包：每次发布输出的可审计物料，以及配套的架构卡、决策矩阵、模板与剧本

手册的「威胁—控制—工具」映射在第 12 章，LLM/RAG/Agent/MCP 安全集中在第 7、8 章，AI 供应链与模型制品安全在第 5 章，Kubernetes 参考模式在第 16 章。

角色化阅读路径

手册为不同角色提供了分章节的入门路径：

• 高管/风险负责人：Ch.1 → Ch.2 → Ch.14
• 安全工程师：Ch.2 → Ch.6 → Ch.12
• ML/MLOps 团队：Ch.6 → Ch.5
• LLM/RAG/Agent 开发者：Ch.7 → Ch.8
• 生产落地：附录 E → Ch.6

获取与构建方式

• 文档站：mhaghighian.github.io/MLSecOps（推荐阅读）
• 源码仓库：github.com/MHaghighian/MLSecOps
• 引用 DOI：10.5281/zenodo.21206781

如需离线 Word 版本，可通过项目脚本 scripts/build-docx.py 配合 Pandoc 进行本地构建，输出 dist/MLSecOps-Practical-Reference-Guide-v{version}.docx，再由 Word 导出 PDF。手册在 GitHub Releases 中仅发布 Markdown 与源码归档，并不随发布预编译 PDF/DOCX。

适用边界

作者明确指出，传统 DevSecOps 并未完全覆盖模型制品、训练数据、LLM、RAG、Agent 以及运行时 AI 风险。MLSecOps 在不替换现有 CI/CD 或 MLOps 平台的前提下，扩展了面向生命周期的控制、证据生成与 AI 治理能力，可作为团队搭建 AI 安全体系的补充参考资料。