研究称开放权重模型卡不足以支撑下游治理

一篇立场论文指出，开放权重基础模型快速增长后，现有模型卡不足以帮助下游开发者和用户充分识别其独特安全挑战。作者通过分析 Hugging Face 上托管的 500 份模型卡，提出将模型卡、可接受使用政策与许可证整合为多层治理机制。

模型卡难以覆盖下游风险

论文认为，模型卡虽然已成为模型仓库中常见的透明度工具，但通常没有充分说明开放权重模型进入下游生态后产生的安全问题。针对含有安全关键信息的模型卡，研究重点梳理了模型谱系、对齐过程的可追溯信息以及实际观察到的模型行为等信息缺口。

分析显示，仅依赖模型卡披露技术信息，难以同时满足透明度、行为规范和法律执行等治理需求。现有监管方式也未能完全补足这些缺口。

500 份模型卡指向三层框架

基于上述分析，论文主张建立由三类互补工具组成的治理框架：

• 模型卡：提供模型来源、对齐信息及实际行为等背景资料；
• 可接受使用政策：界定开放权重模型的下游使用边界；
• 许可证：为模型传播与使用提供相应的法律基础。

这一设计并非用其中一种文件替代其他文件，而是让三者分别覆盖信息、规则和法律三个维度，从而形成相互衔接的治理体系。

许可证需要与政策协同

论文还指出，标准开源许可证未必适合开放权重基础模型，甚至可能削弱可接受使用政策的可执行性。由于模型发布后会进入多样化的下游环境，模型卡、可接受使用政策和许可证需要共同发挥作用。

论文最终建议将三类工具演进为整合式安全材料，在开放权重模型进入开发、部署和使用环节时提供更完整的治理信息。其核心观点是，开放权重模型的治理不能停留在静态披露，还需结合使用规则与法律约束。