立场论文呼吁：AI 对齐方法应镜像人类推理

arXiv 上一篇立场论文指出，AI 系统在高风险决策场景中需要与人类推理方式保持认知对齐，以提高可理解性和可信度。论文认为，认知错位可能成为 AI 在许多应用场景中落地的障碍。

核心立场

论文主张，在 AI 被用作决策辅助、决策代理或自主决策者的场景中，准确的认知对齐至关重要。所谓认知对齐，是指 AI 系统的推理方式与使用者保持一致，并能忠实传达其推理过程。该论文强调，这一需求在医疗、法律、金融等高风险决策场景中尤为突出。

用户调研与证据

论文回顾了已有证据，指出认知对齐有助于提升 AI 系统的可理解性与用户信任度。同时，论文提供了新的调查数据，显示许多用户认为，当 AI 的判断或行动理由至关重要时，认知对齐是"essential"的。这意味着用户不仅希望 AI 给出准确答案，还希望其推理逻辑与自身认知方式一致。

现有差距与研究议程

论文梳理了现有对齐方法与实现认知对齐之间的差距，并提出了一份研究议程，旨在弥补这些差距。论文认为，当前主流的对齐方法（如 RLHF 等）虽然在行为偏好对齐上取得进展，但在认知层面的对齐上仍存在不足。

对 AI 部署的意义

论文最后指出，解决认知对齐问题有助于构建用户既愿意也有理由信赖的 AI 系统，这对推动 AI 在高风险场景中的实际部署具有重要意乁。