multilingual-output-consistency · ZH · 2026-10-27

在同一把 key 上中英文各问一遍:答案里的翻译漂移是从哪一步进来的

本文探讨在使用聚合 API 时,同一问题用中英文分别提问可能导致答案出现差异(翻译漂移)的原因。从分词器、系统提示词和解码过程三个环节分析语言处理的分野,并提供在不一致措辞下强制事实对齐的实用方法,帮助开发者构建更稳健的双语应用。

为什么同一个问题,中英文答案会不一样?

当你用同一个 API key 分别用中文和英文提问,可能会发现两个答案在措辞、细节甚至事实上存在差异。这种现象称为“翻译漂移”,它并非模型故意为之,而是语言处理流程中多个环节共同作用的结果。理解这些环节,有助于设计更可靠的双语应用。

分词器:语言差异的第一道分水岭

分词器将文本切分为模型可处理的 token。不同语言的分词策略不同:

  • 英文单词通常被切分为完整的词或子词,而中文没有空格,常被切分为更细粒度的字或词片段。
  • 同一语义的中英文句子,token 数量和分布可能差异显著,导致模型对信息的关注点不同。
  • 某些模型对中英文的 token 化效率不同,可能影响上下文窗口的有效利用。

因此,即使问题语义相同,输入表示已经不同,模型内部的注意力分配也会有所偏移。

系统提示词:语言指令的微妙影响

系统提示词通常用于设定模型的行为和角色。当系统提示词是中文时,模型可能更倾向于用中文的语用习惯和知识组织方式回答;反之亦然。

  • 如果系统提示词固定为一种语言,而用户问题使用另一种语言,模型需要跨语言对齐指令,可能引入不一致。
  • 提示词中的示例(few-shot)如果只有一种语言,也会引导模型偏向该语言的表达模式。
  • 多语言模型虽然能处理跨语言指令,但不同语言的提示词激活的内部表征并不完全相同。

解码:随机性与语言模型的概率分布

解码阶段从概率分布中采样生成文本。语言模型在不同语言上的概率分布存在差异:

  • 模型对某些语言的事实性知识覆盖更充分,可能导致中英文答案在细节丰富度上不同。
  • 采样温度等参数会放大这种差异,尤其是在低资源语言上。
  • 即使温度为零,模型对不同语言的确定性输出也可能因训练数据偏差而不同。

并行探针:对比六个后端的语言处理

聚合站支持多个模型(如 Claude、GPT、DeepSeek、Qwen、GLM、Kimi),它们的训练数据、分词器和解码策略各不相同。要定位翻译漂移的来源,可以设计并行探针实验:

  1. 同一问题,中英文各问一遍,记录答案差异。
  2. 固定系统提示词语言,观察用户语言变化的影响。
  3. 交换系统提示词语言,看是否引入系统性偏移。
  4. 控制解码参数(如温度设为 0),排除随机性干扰。
  5. 对比不同后端,观察哪些模型对语言更敏感。

通过这种对照,可以初步判断漂移主要来自分词器、提示词还是解码阶段。

强制事实对齐的实用策略

对于双语应用,确保事实一致性比措辞一致更重要。以下方法可以帮助强制对齐:

  • 统一系统提示词语言:使用一种中立或与目标用户一致的语言,减少跨语言指令的歧义。
  • 提供双语示例:在提示词中同时给出中英文示例,引导模型对齐语义而非表面形式。
  • 显式要求事实核对:在提示词中要求模型先提取关键事实,再生成答案,或要求中英文答案引用相同的事实来源。
  • 后处理校验:对中英文答案进行关键实体(如日期、数字、名称)的自动比对,发现不一致时触发重新生成或人工复核。
  • 使用结构化输出:要求模型以 JSON 等格式输出关键事实字段,便于程序化比较。

总结

翻译漂移是分词器、系统提示词和解码过程共同作用的结果,在多后端聚合环境中更为复杂。通过并行探针实验定位主要来源,并采用统一提示词、双语示例和事实校验等策略,可以在措辞不一致的情况下强制事实对齐,提升双语应用的可靠性。