0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

面向Aspect情感分析的自动生成离散意见树结构

深度学习自然语言处理 来源:深度学习自然语言处理 作者:周婷 2022-11-16 14:52 次阅读

在本文中,我们探索了一种简单的方法,为每个方面自动生成离散意见树结构。用到了RL。

f0c94b24-64f0-11ed-8abf-dac502259ad0.png

首先为每个方面生成离散意见树,设方面词的位置为[b,e],则首先将方面跨度[b, e]作为根节点,然后分别从跨度[1,b−1]和[e+1, n]构建它的左子节点和右子节点。为了构建左子树或右子树,我们首先选择span中「得分最大的元素」作为子树的根节点,然后递归地对相应的span分区使用build_tree调用。(除了方面词外其他node都是单个词)。

关于得分分数的计算,选择将""作为BERT的输入得到特殊于方面词的句子表达H,然后按照如下计算得分:

f0e49f78-64f0-11ed-8abf-dac502259ad0.png

其中h是H中方面词部分的平均池化,构建树的这部分包含的参数有三个以及BERT参数部分。

构建树的这一部分称为,输入为x和a(用于打分),输出为一棵树,参数 ϕ 包括上述参数。这一部分参数使用RL进行更新而不是最终损失函数的反向传播。

生成树以后开始正式执行预测任务,模型非常简单。

将上面得到的树生成邻接矩阵,经过GCN(可能多层),取最后一层GCN的输出结果的方面词部分以及[CLS]这个token的表达之和作为query,与GCN的输入的初始向量特征(也就是原句子经过句子编码器得到的)做注意力机制,用输入去表达最终的方面级分类特征。

f0f904ea-64f0-11ed-8abf-dac502259ad0.png

最后输出分类结果

f10b6658-64f0-11ed-8abf-dac502259ad0.png

损失函数:

f11b98c0-64f0-11ed-8abf-dac502259ad0.png

注意这个论文分为两个模块,第一个是生成树,利用得到t;第二部分是预测, ,这里的 θ 包括GCN模块的参数和输出(等式5)的部分,PS注意力模块没有引进参数哦。

第二部分使用上述损失函数进行优化,由于树的采样过程是一个离散的决策过程,因此它是不可微的,第一部分使用的是RL进行优化。

强化学习实现训练部分还没看。

实验效果和分析

f12dd4fe-64f0-11ed-8abf-dac502259ad0.png

MAMS 开发集效果

f14769b4-64f0-11ed-8abf-dac502259ad0.png

在MAMS数据上和多语言评论数据的结果

f15af7fe-64f0-11ed-8abf-dac502259ad0.png

SemEval数据集上的效果

f1806476-64f0-11ed-8abf-dac502259ad0.png

和span-based RL作对比

图3a和图3b分别显示了方面术语“scallops”的induced tree和dependency parse:

f1995490-64f0-11ed-8abf-dac502259ad0.png

图4a和图4b显示了两个情绪极性不同的方面术语的induced tree:

f1b6ef14-64f0-11ed-8abf-dac502259ad0.png

aspect 和 opinion word的距离分析:

f1dce70a-64f0-11ed-8abf-dac502259ad0.png

基于MAMS的测试集分类精度与训练集中各方面频率的关系:

f203d5c2-64f0-11ed-8abf-dac502259ad0.png

审核编辑:郭婷

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 编码器
    +关注

    关注

    45

    文章

    3645

    浏览量

    134630

原文标题:ACL'22 | 西湖大学提出:面向Aspect情感分析的离散意见树归纳方法

文章出处:【微信号:zenRRan,微信公众号:深度学习自然语言处理】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    自动零件分析仪的原理和应用

    定性分析,并将分析结果传输至数据处理系统。 数据处理系统:对接收到的分析结果进行处理,如计算浓度、生成报告等。现代自动零件
    发表于 12-23 15:22

    AIGC与传统内容生成的区别 AIGC的优势和挑战

    、AIGC与传统内容生成的区别 数据类型与处理 : AIGC主要面向结构化数据的生成,如自然语言文本、图像、音频、视频等。这类数据规模更大,内在
    的头像 发表于 11-22 16:04 303次阅读

    RNN的应用领域及未来发展趋势

    多个领域得到了广泛的应用。 RNN的应用领域 自然语言处理(NLP) 机器翻译 :RNN能够理解源语言的上下文信息,生成目标语言的翻译。 文本生成 :利用RNN生成连贯的文本,如新闻文章、故事等。
    的头像 发表于 11-15 10:10 510次阅读

    如何实现离散傅里叶变换

    离散傅里叶变换(DFT)是将离散时序信号从时间域变换到频率域的数学工具,其实现方法有多种,以下介绍几种常见的实现方案: 一、直接计算法 直接依据离散傅里叶变换公式进行计算,这种方法最简单直接,但时间
    的头像 发表于 11-14 09:35 358次阅读

    基于LSTM神经网络的情感分析方法

    情感分析是自然语言处理(NLP)领域的一项重要任务,旨在识别和提取文本中的主观信息,如情感倾向、情感强度等。随着深度学习技术的发展,基于LSTM(长短期记忆)神经网络的
    的头像 发表于 11-13 10:15 540次阅读

    如何自动生成verilog代码

    介绍几种自动生成verilog代码的方法。
    的头像 发表于 11-05 11:45 332次阅读
    如何<b class='flag-5'>自动</b><b class='flag-5'>生成</b>verilog代码

    AIGC与传统内容生成的区别

    AIGC : 主要面向结构化数据的生成,如自然语言文本、图像、音频、视频等。 这类数据规模更大,内在结构更复杂,对处理技术提出了更高要求。 传统内容
    的头像 发表于 10-25 15:13 439次阅读

    TINA自动生成外形出错怎么解决?

    我从TI官网下载了LM5145的PSPICE模型,想在TINA-TI中创建一个新宏,但是在自动生成外形的时候出错了。请问这种问题怎么解决
    发表于 08-13 07:39

    数字信号是离散的还是连续的

    数字信号是一种离散的信号,它具有离散的幅度和时间特性。与模拟信号相比,数字信号在时间上是离散的,幅度上也是离散的。 一、数字信号的概念 数字信号是一种用数字形式表示的信号,它是由一系列
    的头像 发表于 08-11 10:49 1849次阅读

    关于Makefile自动生成-autotools的使用

    的Makefile并非日常任务,但遇见需要构建大型软件项目时,利用工具自动生成Makefile就显得尤为关键。接下来,我们将重点介绍一款自动化构建工具——Autoto
    的头像 发表于 07-25 15:50 1513次阅读
    关于Makefile<b class='flag-5'>自动</b><b class='flag-5'>生成</b>-autotools的使用

    流程工业和离散工业是什么?

    一系列的化学、物理和生物反应,经过不同的工艺步骤,最终转化为成品。流程工业通常需要高度自动化和精确的控制,以确保生产过程的稳定性和产品质量的稳定性。 离散工业是指以离散单位(如产品、零件)为基础的生产方式,其生
    的头像 发表于 05-09 14:01 760次阅读

    探索编程世界的七大数据结构

    树结构就像是一颗倒挂的小树,有根、有枝、有叶。它是一种非线性的数据结构,以层级的方式存储数据,顶部是根节点,底部是叶节点。
    的头像 发表于 04-16 12:04 389次阅读

    ΣΔ(Sigma-Delta)技术详解(上):离散ΣΔ调制器

    ΣΔ调制器 → 模拟ΣΔ调制器 → ΣΔADC 本文详细讲解 离散ΣΔ调制器 。阅读后,你就能分析、设计 ΣΔDAC 。 本文会先为读者建立足够的知识铺垫;然后从直观理解和建模分析的角度讲解
    的头像 发表于 03-16 17:28 4089次阅读
    ΣΔ(Sigma-Delta)技术详解(上):<b class='flag-5'>离散</b>ΣΔ调制器

    利用边缘计算网关解决离散行业数采的方案【天拓四方】

    一、引言 随着工业4.0时代的来临,离散制造行业正面临数字化转型的关键节点。离散制造的特点是小批量、多品种、高复杂度,如何实现高效、精准的数据采集与分析,提升生产效率和产品质量,成为行业亟待解决
    的头像 发表于 03-04 16:27 455次阅读
    利用边缘计算网关解决<b class='flag-5'>离散</b>行业数采的方案【天拓四方】

    如何禁止vivado自动生成 bufg

    在Vivado中禁止自动生成BUFG(Buffered Clock Gate)可以通过以下步骤实现。 首先,让我们简要了解一下什么是BUFG。BUFG是一个时钟缓冲器,用于缓冲输入时钟信号,使其更稳
    的头像 发表于 01-05 14:31 2217次阅读