预训练语言模型的字典描述-电子发烧友网

今天给大家带来一篇IJCAI2022浙大和阿里联合出品的采用对比学习的字典描述知识增强的预训练语言模型-DictBERT，全名为《Dictionary Description Knowledge Enhanced Language Model Pre-training via Contrastive Learning》

又鸽了许久，其实最近看到一些有趣的论文，大多以知乎想法的形式发了，感兴趣可以去看看，其实码字还是很不易的~

介绍

预训练语言模型（PLMs）目前在各种自然语言处理任务中均取得了优异的效果，并且部分研究学者将外部知识（知识图谱）融入预训练语言模型中后获取了更加优异的效果，但具体场景下的知识图谱信息往往是不容易获取的，因此，我们提出一种新方法DictBert，将字典描述信息作为外部知识增强预训练语言模型，相较于知识图谱的信息增强，字典描述更容易获取。

在预训练阶段，提出来两种新的预训练任务来训练DictBert模型，通过掩码语言模型任务和对比学习任务将字典知识注入到DictBert模型中，其中，掩码语言模型任务为字典中词条预测任务（Dictionary Entry Prediction）；对比学习任务为字典中词条描述判断任务（Entry Description Discrimination）。

在微调阶段，我们将DictBert模型作为可插拔的外部知识库，对输入序列中所包含字典中的词条信息作为外部隐含知识内容，注入到输入中，并通过注意机制来增强输入的表示，最终提升模型表征效果。

模型

字典描述知识

字典是一种常见的资源，它列出了某一种语言所包含的字/词，并通过解释性描述对其进行含义的阐述，常常也会指定它们的发音、来源、用法、同义词、反义词等，如下表所示，我们主要利用四种信息进行模型的预训练，包括：词条、描述、同义词和反义词。在词条预测任务中，利用字典的词条及其描述进行知识学习；在词条描述判断任务中，利用同义词和反义词来进行对比学习，从而学习到知识表征。

预训练任务

预训练任务主要包含字典中词条预测任务和字典中词条描述判断任务，如下图所示。词条预测任务，实际上是一个掩码语言模型任务，给定词条和它对于的描述，然后将词条的内容使用特殊字符[MASK]进行替换，最终将其[MASK]内容进行还原。注意，当词条包含多个token时，需要将其全部掩掉。

词条描述判断任务，实际上是一个对比学习任务，而对比学习就是以拉近相似数据，推开不相似数据为目标，有效地学习数据表征。如下表所示，对于词条“forest”，正例样本为同义词“woodland”，负例样本为反义词“desert”。对比学习中，分别对原始词条+描述、正例样本+描述和负例样本+描述进行模型编码，获取、和，获取对比学习损失，

最终，模型预训练的损失为

其中，为0.4，为0.6。

微调任务

在微调过程中，将DictBert模型作为可插拔的外部知识库，如下图所示，首先识别出输入序列中所包含字典中的词条信息，然后通过DictBert模型获取外部信息表征，再通过三种不同的方式进行外部知识的注入，最终将其综合表征进行下游具体的任务。并且由于可以事先离线对一个字典中所有词条进行外部信息表征获取，因此，在真实落地场景时并不会增加太多的额外耗时。知识注入的方式包含三种：

Pooled Output Concatenation，即将所有词条的信息表征进行求和，然后与原始模型的进行拼接，最终进行下游任务；

Extra-hop Attention，即将所有词条的信息表征对进行attition操作，获取分布注意力后加权求和的外部信息表征，然后与原始模型的进行拼接，最终进行下游任务；

Layer-wise Extra-hop Attention，即将所有词条的信息表征对每一层的进行attition操作，获取每一层分布注意力后加权求和的外部信息表征，然后对其所有层进行mean-pooling操作，然后与原始模型的进行拼接，最终进行下游任务；

结果

如下表所示，采用剑桥字典进行预训练后的DictBert模型，在CoNLL2003、TACRED、CommonsenseQA、OpenBookQA和GLUE上均有提高。其中，Concat表示Pooled Output Concatenation方式，EHA表示Extra-hop Attention，LWA表示Layer-wise Extra-hop Attention，K表示仅采用词条进行信息表征，K+V表示采用词条和描述进行信息表征。