控制文本生成中关键词及其位置

​

Controlling keywords and their positions in text generation

解决问题：本文试图解决文本生成中的一个挑战，即如何按照用户意图生成文本，包括关键词和它们在文本中的位置。此前的研究已经提出了通过指定关键词来生成文本的方法，但这种方法不能灵活地控制关键词在文本中的位置，而本文提出了一种使用特殊标记来控制关键词相对位置的方法。

关键思路：本文提出的方法是使用特殊标记来控制关键词在文本中的相对位置，相比于现有的研究，这种方法可以更加灵活地控制关键词的位置，从而更好地反映用户的意图。

其他亮点：本文的实验结果表明，所提出的方法可以控制关键词及其位置，并且可以生成更符合用户意图的摘要文本。此外，本文还发布了代码，方便其他研究者使用和参考。值得进一步研究的工作包括如何将该方法应用到其他文本生成任务中，以及如何进一步提高生成文本的质量和流畅度。

关于作者：本文的主要作者分别是来自日本的Yuichi Sasazawa、Terufumi Morishita、Hiroaki Ozaki、Osamu Imaichi和Yasuhiro Sogawa。他们所在的机构是东京大学和NTT。

相关研究：近期其他相关的研究包括：

• “Controlling Text Generation by Fine-Tuning Transformers with Web Queries”，作者为Yejin Choi、Yejin Bang和Youngja Park，发表在ACL 2020上。
• “Controllable Text Generation with Gradient-Based Explicit Planning”，作者为Yizhe Zhang、Yinhan Liu、Roy Schwartz、Martin Jaggi和Joan Bruna，发表在ACL 2019上。
• “Controlling Linguistic Style Aspects in Neural Language Generation”，作者为Zhiting Hu、Zichao Yang、Xiaodan Liang、Ruslan Salakhutdinov和Eric P. Xing，发表在AAAI 2017上。

论文摘要：在文本生成中，一个挑战是如何按照用户的意图进行生成控制。以往的研究提出了指定应该包含在生成文本中的关键词的方法，但这并不足以生成符合用户意图的文本。例如，将重要的关键词放置在文本开头可以吸引读者的注意，但是现有的方法不能实现这种灵活的控制。本文提出了一个新颖的任务，即控制关键词在文本生成中的位置，而不仅仅是关键词本身。为此，我们展示了一种使用特殊标记的方法来控制关键词的相对位置。在摘要和故事生成任务上的实验结果表明，所提出的方法可以控制关键词及其位置。我们还证明，控制关键词的位置可以生成比基线更接近用户意图的摘要文本。我们公开了我们的代码。

​Read More