电子发烧友App
创作
发文章
发帖 
提问 
发资料
发视频资料介绍
众多自然语言处理（ Natural Language Processing，NLP）任务受益于在大规模语料上训练的词向量。由于预训练的词向量具有大语料上的通用语义特征，因此将这些词向量应用到特定的下游任务时，往往需要通过微调进行一定的更新和调整，使其更适用于目标任务。但是，目标语料集中的低频词由于缺少训练样夲，导致在微调过程中无法获得稳定的梯度信息，使得词向量无法得到有效更新。而在短文本分类任务中，这些低频词对分类结果同样有着重要的指示性。因此，在具体的短文本分类任务上获得一个更妤的低频词词向量表示是有必要的。针对这个问题，文中提出了一种与下游任务模型无关的低频词词向量更新算法，通过基于K近邻的词向量偏移计算方法，利用通用词向量中与低频词相似的高频词所获得的任务特征信息，来指导低频词的信息更新，从而获得更准确的且适用于当前任务语境的低频词词向量表示;并以 Textcnn作为基准模型，基于word2vec和 Glove得到的两个通用预训练词向量，在3个公开的短文本数据集上进行了优化算法的效果验证。实验结果表明，使用优化算法更新低频词词表示后，模型分类准确率能达到84.3%~94%，较更新前提升了0.4%%，体现了优化算法的有效性，也进一步证明了短文本分类任务中低频词对分类结果的影响，为短文本分类的研究工作提供了一定的借鉴。
下载该资料的人也在下载
下载该资料的人还在阅读
更多 >
- 基于LSTM的表示学习-文本分类模型 18次下载
- 面向短文本的中文真词错误检测与修复 6次下载
- 面向短文本的中文真词错误检测与修复 2次下载
- 基于主题分布优化的模糊文本分类方法 5次下载
- 基于双通道词向量的卷积胶囊网络文本分类算法 6次下载
- 基于不同神经网络的文本分类方法研究对比 48次下载
- 基于主题相似度聚类的文本分类算法综述 6次下载
- 基于单词贡献度和Word2Vec词向量的文档表示方法 2次下载
- 基于BERT+Bo-LSTM+Attention的病历短文分类模型 13次下载
- 融合BERT词向量与TextRank的关键词抽取方法 18次下载
- 集成WL-CNN和SL-Bi-LSTM的旅游问句文本分类算法 5次下载
- 一种基于神经网络的短文本分类模型 8次下载
- 结合BERT模型的中文文本分类算法 6次下载
- 基于微博文本的词对主题演化模型 14次下载
- 融合词语类别特征和语义的短文本分类方法 0次下载
- 卷积神经网络在文本分类领域的应用 358次阅读
- 人工智能中文本分类的基本原理和关键技术 951次阅读
- ElasticSearch同义词代码解析 674次阅读
- 机器学习相关介绍：支持向量机(低维到高维的映射) 1892次阅读
- 如何才能自己做词云图 8002次阅读
- 文本分类中处理样本不均衡和提升模型鲁棒性的trick 905次阅读
- 带你从头构建文本分类器 3288次阅读
- 训练一个机器学习模型，实现了根据基于文本分析预测葡萄酒质量 5965次阅读
- 如何表示一个词语的意思？神经网络词嵌入的基本思路 3735次阅读
- 词对嵌入技术，可以改善现有模型在跨句推理上的表现 2998次阅读
- Python数据挖掘：WordCloud词云配置过程及词频分析 3848次阅读
- 如何为文本分类任务选择正确的模型，这里有一个完整流程图！ 1.2w次阅读
- 文本分类任务介绍和传统机器学习方法 9606次阅读
- 一种改变标准的谷歌关键词搜索的新方式 6723次阅读
- 自然语言处理技术入门之基于关键词生成文本的技术实现过程 1w次阅读
上传资料赚积分下载排行
本周
- 1山景DSP芯片AP8248A2数据手册
- 1.06 MB | 532次下载 | 免费
- 2RK3399完整板原理图（支持平板，盒子VR）
- 3.28 MB | 339次下载 | 免费
- 3TC358743XBG评估板参考手册
- 1.36 MB | 330次下载 | 免费
- 4DFM软件使用教程
- 0.84 MB | 295次下载 | 免费
- 5元宇宙深度解析—未来的未来-风口还是泡沫
- 6.40 MB | 227次下载 | 免费
- 6迪文DGUS开发指南
- 31.67 MB | 194次下载 | 免费
- 7元宇宙底层硬件系列报告
- 13.42 MB | 182次下载 | 免费
- 8FP5207XR-G1中文应用手册
- 1.09 MB | 178次下载 | 免费
本月
- 1OrCAD10.5下载OrCAD10.5中文版软件
- 0.00 MB | 234315次下载 | 免费
- 2555集成电路应用800例(新编版)
- 0.00 MB | 33566次下载 | 免费
- 3接口电路图大全
- 未知 | 30323次下载 | 免费
- 4开关电源设计实例指南
- 未知 | 21549次下载 | 免费
- 5电气工程师手册免费下载(新编第二版pdf电子书)
- 0.00 MB | 15349次下载 | 免费
- 6数字电路基础pdf(下载)
- 未知 | 13750次下载 | 免费
- 7电子制作实例集锦 下载
- 未知 | 8113次下载 | 免费
- 8《LED驱动电路设计》 温德尔著
- 0.00 MB | 6656次下载 | 免费
总榜
- 1matlab软件下载入口
- 未知 | 935054次下载 | 免费
- 2protel99se软件下载(可英文版转中文版)
- 78.1 MB | 537798次下载 | 免费
- 3MATLAB 7.1 下载 (含软件介绍)
- 未知 | 420027次下载 | 免费
- 4OrCAD10.5下载OrCAD10.5中文版软件
- 0.00 MB | 234315次下载 | 免费
- 5Altium DXP2002下载入口
- 未知 | 233046次下载 | 免费
- 6电路仿真软件multisim 10.0免费下载
- 340992 | 191187次下载 | 免费
- 7十天学会AVR单片机与C语言视频教程 下载
- 158M | 183279次下载 | 免费
- 8proe5.0野火版下载(中文版免费下载)
- 未知 | 138040次下载 | 免费
工商网监
评论