基于检索增强和损失加权的习语机器翻译

​

Crossing the Threshold: Idiomatic Machine Translation through Retrieval Augmentation and Loss Weighting

E Liu, A Chaudhary, G Neubig
[CMU]

基于检索增强和损失加权的习语机器翻译

• 习语对机器翻译系统构成挑战，因为它们的含义是非组合性的，不能从单个单词的含义派生。

• 通过合成实验得出，当非组合示例占比达到约10%时，Transformer模型会从错误的字面翻译翻转为正确的习语翻译。

• 对商业系统的评估显示，习语句子与字面句子相比翻译性能下降，尤其是罕见习语。

• 提出两种简单但有效的技术来改进习语翻译：战略性上调潜在习语句子的损失权重，以及使用kNN-MT的检索增强。

• 结合上调权重和kNN可以提高强大预训练模型对习语句子的翻译准确率平均10.4%，而不会损害字面句子。

• 这些技术还可以降低法语和芬兰语中分布不平衡句子的语义错误。

动机：机器翻译系统往往难以正确翻译习语表达，因为习语的含义不能从其组成部分的含义推导出来，本文旨在改进机器翻译系统对习语的翻译能力。

方法：论文通过综合实验和数据增强技术，提出两种简单但有效的方法来改进习语翻译，分别是在潜在习语句子上加权训练损失和使用检索增强模型。

优势：该方法不仅可以显著提高强预训练机器翻译模型在习语句子上的准确性，还可以改善非习语句子的翻译能力。

通过实验和数据增强技术，提出两种简单但有效的方法来改进机器翻译系统对习语的准确翻译能力，不仅提高了翻译的准确性，还可以改善非习语句子的翻译能力。

https://arxiv.org/abs/2310.07081 

​Read More