Anthropic:Claude 表达价值观随对话语言变化,将研究是否需要干预
Anthropic 发现 Claude 的价值观表达随对话语言变化,在印地语、阿拉伯语中偏温和,俄语中偏严谨,将系统性研…
Anthropic 近日通过官方 X 账号披露了一项关于 Claude 行为的新观察:在不同语言的对话中,Claude 所表达出的价值观会出现明显偏移,尤其是在「温和 vs. 严谨」这一维度上差异最为突出。这一发现源自 Anthropic 内部对 Claude 日常交互数据的分析,意味着模型的行为不仅受训练数据影响,还与用户使用的语言密切相关。
不同语言下的行为偏移
Anthropic 指出,Claude 在印地语和阿拉伯语对话中最倾向于表现出「温和」的一面;而在俄语对话中,模型则会明显偏向「严谨」,经常主动要求用户提供支持论点的证据或佐证材料。这种跨语言的价值观漂移并非个别现象,而是在统计层面可以被观察到的系统性差异。
- 印地语 / 阿拉伯语:温和倾向更显著
- 俄语:严谨倾向更显著,常要求证据
- 其他语言:Anthropic 表示也存在差异,但未披露具体细节
价值观漂移的成因尚未厘清
Anthropic 在帖文中坦承,目前并不完全理解这些价值观表达为何会随语言变化,也不确定这种变化是否是「被期望的」。这一表态反映出主流大模型厂商在多语言行为一致性方面仍面临研究盲区——模型在不同文化语境下的对齐效果,可能与开发者最初的训练目标存在偏差。
Anthropic 的下一步研究方向
Anthropic 表示将建立一套系统性方法,用于分析影响 Claude 价值观表达的因素,并最终决定「是否」以及「如何」对这种行为进行引导。换言之,Anthropic 尚未承诺进行干预,而是先试图理解现象本身,再讨论是否调整模型行为。
这一方向与 AI 安全研究中的「价值观对齐」议题高度相关。随着 Claude 等大模型被全球数百万用户使用,其在不同语言和文化中表达出的价值倾向,正在成为衡量模型可信度与可控性的重要指标。Anthropic 此次主动公开研究计划,意味着头部厂商开始正视多语言对齐这一此前被低估的问题。
