研究论文
论文视角：LLM 道德评估长期忽视「规范应用」
arXiv 立场论文指出，大模型道德评测过度聚焦价值对齐，缺乏对情境敏感规范的识别与应用评估。
2026.08.18 · 周二约 2 分钟阅读
近期围绕大语言模型（LLM）道德能力的研究，主要衡量模型输出是否与人类道德「价值」一致，却较少评估模型能否识别并在具体情境中正确「应用」道德规范。一篇发表于 arXiv 的立场论文《Position: Evaluations of AI Moral Reasoning Still Miss Half of the Picture》指出，这种失衡源于评测体系对描述伦理学框架（如道德基础理论、科尔伯格道德发展阶段）的依赖，使评估更偏重价值表征，而非规范性应用。
价值问题与规范问题的分野
作者将现有评测划分为两个层面：
- 道德价值问题（moral value problem）：判断模型输出是否与人类道德价值观一致。
- 道德规范问题（moral norm problem）：判断模型能否识别并正确应用情境敏感的道德规范。
论文梳理现有基准与方法后发现，相关研究高度集中于价值问题，而规范性伦理层面的讨论明显缺一。
现有评估的三项关键缺口
作者总结出当前 LLM 道德评测的三个核心不足：
- 缺乏关于道德规范及其应用的高质量真值数据；
- 对中间推理过程的评估不足，难以判断模型是「匹配模式」还是「真正推理」；
- 对情境中道德相关特征的识别关注有限，导致评测难以覆盖复杂现实场景。
提出的研究议程
为推动规范性推理的系统研究，作者建议：
- 为规范理论开发标准化的形式化表示；
- 构建由专家标注、覆盖规范应用的语料；
- 设计能够明确区分「价值层面」与「规范层面」能力的评测协议。
论文的总体目标是推动学界对 LLM 规范性推理展开更系统的研究，使道德评估从「是否说出正确价值观」延伸到「能否在情境中正确应用规范」。
视角与局限
该文属于「Position」类立场论文，未给出新基准或实验数据，其价值在于提出明确的分析框架与研究路线图，对从事 AI 对齐与伦理评测的研究者具有方向性参考意义，但对产业落地与产品迭代的直接作用有限。