nlp

如何通过蒸馏来使小模型具有更好的性能

现在的任务是给定一个词（比如：苹果），然后判断词对应的类别（电视/手机/水果/汽车），假如现在我们有两个样本：（苹果，[0,0,1,0]）和 （小米，[...

2021-03-05 标签：容量模型nlp 3834 0

如何在NLP领域实施对抗攻击

当视觉领域中的对抗攻击研究很难再有重大突破的时候（坑已满，请换坑），研究人员便把目光转移到了NLP领域。其实就NLP领域而言，垃圾邮件检测、有害文本检测...

2021-03-05 标签：文本深度学习nlp 4015 0

利用ImageNet训练了一个能降噪、超分和去雨的图像预训练模型

在上篇文章介绍过了，因为Transformer本身是用于NLP领域的，输入应该是一个序列，因此这篇的论文做法和ViT[3]一样，首先需要把feature...

2021-03-03 标签：模型数据集nlp 4346 0

神经网络中词向量是怎么表示的？

上一篇我们讲到了在神经网络出现以前的词向量表示方法：基于同义词词典的方法和基于计数统计的方法。想要回顾的可以看这里小白跟学系列之手把手搭建NLP经典模型...

2021-02-05 标签：神经网络机器学习nlp 3887 0

一种处理多标签文本分类的新颖推理机制

研究动机 多标签文本分类（multi-label text classification, 简称MLTC）的目的是在给定文本后要求模型预测其多个非互斥的...

2021-02-05 标签：人工智能机器学习nlp 2910 0

手把手教你搭建NLP经典模型

上一篇我们讲到了最简单的词向量表示方法——共现矩阵（没有看的朋友可以点击这里 小白跟学系列之手把手搭建NLP经典模型（含代码） 回顾一下！） 共现矩阵简...

2021-02-04 标签：神经网络nlp 4043 0

细解读关系抽取SOTA论文

本文主要详细解读关系抽取SOTA论文Two are Better than One:Joint Entity and Relation Extracti...

2021-02-10 标签：深度学习自然语言nlp 2650 0

天池公益赛“新冠疫情相似句对判定大赛”NLP赛道top指南

2020年初，新冠疫情席卷全球。除了“待在家，不乱跑”，我想还能从哪为抗击疫情出点微薄之力呢？ 碰巧室友推送了一个天池公益赛“新冠疫情相似句对判定大赛”...

2021-02-10 标签：自然语言nlp 3212 0

positional encoding详解

近期我会一连几篇谈谈bert中的关键细节，这个position encoding是我看到的bert（实质上是transformer中提出的）中最为惊喜的...

2021-02-10 标签：深度学习自然语言nlp 6035 0

实体关系联合抽取取得SOTA的三种方法

2020实体关系联合抽取一片红海，各种SOTA方法你方唱罢我方登场，在一些数据集上也是不断刷出新高度，为信息抽取领域带来了新思路，推动了信息抽取领域的发...

2021-02-10 标签：深度学习自然语言nlp 1.2万 0

NLP：面向方面级情感分类的注意力转移网络

01 — 研究动机 方面级情感分类（英文叫Aspect-level Sentiment Classification，简称ASC）旨在检测句子中给定意见...

2021-02-10 标签：情感识别自然语言nlp 2956 0

NLP事件抽取综述之挑战与展望

本系列文章主要分享近年来事件抽取方法总结，包括中文事件抽取、开放域事件抽取、事件数据生成、跨语言事件抽取、小样本事件抽取、零样本事件抽取等。主要包括以下...

2021-01-18 标签：事件自然语言处理nlp 3770 0

如何搭建NLP经典模型（含代码）

之前整理过斋藤康毅的深度学习神作《深度学习入门：基于Python的理论与实现》，对小白非常友好，它没有用任何的现成框架（比如pyTorch、tensor...

2021-01-18 标签：模型自然语言处理nlp 5160 0