面向自然语言推理的基于截断高斯距离的自注意力机制

摘要：

在自然语言理解任务中,注意力机制由于可以有效捕获词在上下文语境中的重要程度并提高自然语言理解任务的有效性而受到了人们的普遍关注.基于注意力机制的非递归深度网络Transformer,不仅以非常少的参数和训练时间取得了机器翻译学习任务的最优性能,还在自然语言推理(Gaussian-Transformer)、词表示学习(Bert)等任务中取得了令人瞩目的成绩.目前Gaussian-Transformer已成为自然语言推理任务性能最好的方法之一.然而,在Transformer中引入Gaussian先验分布对词的位置信息进行编码,虽然可以大大提升邻近词的重要程度,但由于Gaussian分布中非邻近词的重要性会快速趋向于0,对当前词的表示有重要作用的非邻近词的影响会随着距离的加深消失殆尽.因此,文中面向自然语言推理任务,提出了一种基于截断高斯距离分布的自注意力机制,该方法不仅可以凸显邻近词的重要性,还可以保留对当前词表示具有重要作用的非邻近词的信息.在自然语言推理基准数据集SNLI和MultiNLI上的实验结果证实,截断高斯距离分布自注意力机制能够更有效地提取句子中词语的相对位置信息.

关键词：自然语言推理、自注意力机制、距离掩码、截断高斯掩码

所属期刊栏目：47

分类号：TP181(自动化基础理论)

资助基金：国家自然科学基金;中央高校基础科研业务费专项资金

在线出版日期：2020-04-29（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：178-183