0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

知识图谱自动化构建的探索与挑战

恬静简朴1 来源:恬静简朴1 作者:恬静简朴1 2022-09-05 09:36 次阅读

知识图谱自动化构建的探索与挑战|论文分享

达观数据

知识图谱的自动化构建是知识图谱中具有极强挑战性且巨大应用价值的技术方向。就实体抽取技术,达观数据副总裁、上海市人工智能技术标准委员会委员王文广提到“狭义的实体抽取,即命名实体识别(NER)技术发展至今已较为成熟,能够很好地抽取出人名、地名、机构名等少数类型的实体。但在知识图谱实际应用中,则需要抽取出各式各样各不相同的广义实体,比如金融业中的产品名称、品牌名、业务名、风险提示、观点等,制造业中的失效模式、失效现象、工艺、设备、零部件、物料、方法、故障原因、改善措施等,商业中的产品、功能、特点、适合人群、搭配方法等等。抽取出这些广义实体的挑战巨大。”关系抽取技术也同样问题多挑战大,已有关系抽取大多基于实体对之间共现,而现实复杂的场景中,实体对共现既可能不存在任何关系,可能存在万千种的关系,这就造成了关系抽取的难题。此外,在知识图谱构建中,还涉及实体消歧、实体融合等方面的技术要求。

除了技术发展本身并不成熟之外,在实际场景中还遇到样本少的问题。在真实落地的项目或产品中, 往往存在标注样本少的问题,其原因即可能是标注成本高导致样本少,也可能是本身样本就少,无法获得大规模的标注样本。这方面王文广深有体会,他提到“在很多场景下,总的文档数量有几千或几万份,对于具体某些类型的实体或关系来说则文档数量更少。在这种情况下要做好知识图谱的构建,是极大的挑战,也是在实际落地中必须综合使用十八般武器,逢山开路遇水搭桥,使用最新的技术结合业务经验、专家规则等来解决这些问题。”

为了促进知识图谱自动化构建技术的进一步发展,达观数据在CCKS2020(2020全国知识图谱与语义计算大会)组织了金融研报知识图谱的自动化构建的算法竞赛。竞赛选择了样本丰富但复杂度较高的金融研报文档作为知识的来源,根据金融投研领域常见的需求,设计了简化版的知识图谱模式,并标注了大规模的金融研报知识图谱数据集FR2KG。竞赛任务从预定义的知识图谱模式和少量的种子知识图谱开始,从非结构化的金融研报文本中抽取出符合知识图谱模式的实体、关系和属性值, 并进行适当的实体消歧和实体融合,构建出知识图谱,并使用FR2KG来评估竞赛参赛队伍所提交的结果。

金融研报是各类金融研究结构对宏观经济、金融、行业、产业链以及公司的研究报告,是金融行业中最为复杂、多样的文档。报告通常是专业人员撰写,对宏观、行业和公司的数据信息搜集全面、研究深入,质量高,内容可靠。报告内容往往包含产业、经济、金融、政策、社会等多领域的数据与知识,是构建行业知识图谱非常关键的数据来源。另一方面,由于研报本身所容纳的数据与知识涉及面广泛,专业知识众多,不同的研究结构和专业认识对相同的内容的表达方式也会略有差异。这些特点导致了从研报自动化构建知识图谱困难重重,解决这些问题则能够极大促进自动化构建知识图谱方面的技术进步。同时所构建的图谱在大金融行业、监管部门、政府、行业研究机构和行业公司等应用非常广泛,如风险监测、智能投研、智能监管、智能风控等,具有巨大的学术价值和产业价值。

数据集

达观数据所构建的大规模金融研报知识图谱数据集FR2KG是用于评测知识图谱自动化构建技术的专业数据集,是当前最大规模的中文金融研报知识图谱。下图是数据集构建过程示意图

poYBAGMVUqSAB5vHAABSE5RNWVM330.jpg

FR2KG的知识图谱模式包含10个实体类型,19个关系类型和6种属性,如下图所示。

pYYBAGMVUqWAUzxnAACkend7yiE077.jpg

构建好的金融研报知识图谱数据集FR2KG包含17,799实体,26,798关系三元组,1,328属性三元组,SeedKG和EvaluationKG的数据情况如下图所示。

下图是数据集的样例,使用达观数据渊海知识图谱平台可视化:

poYBAGMVUqWAU6wsAADVO-16R-c247.jpg

目前数据集已经发布在SCIDB和OpenKG上,欢迎大家前往下载。在使用数据集进行研究时请引用本论文。

文章:Data Set and Evaluation of Automated Construction of Financial Knowledge Graph

作者:王文广,徐永林、杜春辉、陈运文、王逸捷、文辉

引用: Wang, W.G., et al.: Data set and evaluation of automated construction of financial knowledge graph. Data Intelligence 3(3), 418-443 (2021). doi: 10.1162/dint_a_00108

竞赛技术回顾

本次评测一共有740个队伍报名,其中F1分数最高的18支队伍中,有3支队伍来自企业,10支队伍来自高校,3支队伍高校和企业的组合,另外2支队伍未透露相关信息。本次评测的top5队伍都梳理并提交了他们所使用的方法的简要说明,下文对这些方法和说明进行分析总结。

所有队伍都使用了规则或者labelling function来生产训练样本,只有一个队伍在自动生成样本之外,又额外人工标注了20份的研报来作为补充和验证的训练样本。

所有队伍在实体抽取中都使用了基于BERT的模型,并且在模型之外也都使用了基于规则的方法来对特定的实体类型进行补充。

在关系和属性抽取方面,所有的队伍都使用了基于共现的方法,共现是远程监督的基本假设,也就是说,当两个实体共同出现在一个较短的一段文本时,即可假设它们存在符合相应的关系。在基于共现的假设之上,三支队伍使用了规则来判断是否真正存在这种关系,另外两只队伍使用了基于BERT的模型来对关系进行分类。

其中一支队伍使用了聚类的方法来将相似或相同主题的研报给聚在一起,对研报进行了预处理。

知识图谱自动化构建的挑战

从本次基于知识图谱模式的自动化构建知识图谱评测的结果来看,单纯使用算法来构建完全自动化地构建知识图谱,尚存在较多挑战,这里总结了一些具有相当挑战性的课题和研究方向:

在给定知识图谱模式和种子知识图谱来自动化的构建知识图谱上,现有的方法效果都不太好,如何实现端到端或者多步的框架实现知识图谱的完全自动化构建是值得继续探索的。

通过知识图谱及其对应的Schema如何实现自动化标注语料是一个值得研究的课题,能够实现高精度的自动化标注语料可以带来更好的抽取模型。此外,自动化标注语料方面的评测也是一件非常有意义的事情。

实体抽取方面,评测的优秀选手都使用了基于BERT的模型,再加上基于规则的方法来实现,在这种真实的场景且计算力资源受限的情况下,如何在少量语料的情况下实现高精度的抽取。

关系和属性抽取与识别上,目前集中在采用短文本内共现并过滤的方法来实现,这极大的依赖于实体抽取的F1分数,高precision和高recall的实体抽取决定了关系和属性抽取有好的效果。那么如何在噪声较多,即不那么高的情况下来实现好的关系和属性抽取?

本次评测没有看到使用端到端的实现实体和关系联合抽取的模型,可能的原因是实体和关系类型较多且没有大量的语料,那么在这种情况下如何开发出端到端的模型也是非常具有挑战性的课题。

当Schema的规模进一步扩大时,比如50种实体类型,数百种的实体属性和实体间的关系,对这样的知识图谱研究其自动化构建是一个兼具挑战性与现实意义的课题。

多语言的知识图谱自动化构建技术的研究。本次评测集中在中文,以及中文中存在的少量英文的情况,特别的,没有涉及到多语言之间实体融合的情况。但在真实场景下,多语言语料以及构建多语言图谱是非常重要的。这涉及了多方面的内容,包括多语言的实体、关系和属性的抽取,多语言之间实体的融合等等方面技术的研究。同时,组织多语言知识图谱自动化构建方面的评测也是非常有意义的事情。

本次评测中隐含着少量实体的消歧与融合,这块没有显性的进行评测,未来可以将这块明确的表达出来,以促进相关领域的研究。

审核编辑:汤梓红
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 自动化
    +关注

    关注

    29

    文章

    5463

    浏览量

    78971
  • 数据集
    +关注

    关注

    4

    文章

    1200

    浏览量

    24613
  • 知识图谱
    +关注

    关注

    2

    文章

    132

    浏览量

    7681
收藏 人收藏

    评论

    相关推荐

    探索Playwright:前端自动化测试的新纪元

    作者:京东保险 张新磊 背景 在前端开发中,自动化测试是确保软件质量和用户体验的关键环节。随着Web应用的复杂性不断增加,手动测试已经无法满足快速迭代和持续交付的需求。自动化测试通过模拟用户
    的头像 发表于 10-22 14:27 83次阅读

    三星电子将收购英国知识图谱技术初创企业

    在人工智能技术日新月异的今天,三星电子公司再次展现了其前瞻性的战略布局与技术创新实力。近日,三星正式宣布完成了对英国领先的人工智能(AI)与知识图谱技术初创企业Oxford Semantic Technologies的收购,此举标志着三星在提升设备端AI能力、深化个性化用户体验方面迈出了重要一步。
    的头像 发表于 07-18 14:46 486次阅读

    知识图谱与大模型之间的关系

    在人工智能的广阔领域中,知识图谱与大模型是两个至关重要的概念,它们各自拥有独特的优势和应用场景,同时又相互补充,共同推动着人工智能技术的发展。本文将从定义、特点、应用及相互关系等方面深入探讨知识图谱与大模型之间的关系。
    的头像 发表于 07-10 11:39 823次阅读

    机械自动化和电气自动化区别是什么

    机械自动化和电气自动化是现代工业生产中两个重要的领域,它们在许多方面有着密切的联系,但也存在一些明显的区别。 一、基本概念 机械自动化 机械自动化是指利用机械设备、传感器、控制系统等技
    的头像 发表于 07-01 09:33 3402次阅读

    机械自动化自动化的一种吗

    引言 自动化技术是指利用控制装置对生产过程进行控制,以实现生产过程的自动化。机械自动化自动化技术的一种,它主要涉及到使用机械设备和控制系统来实现生产过程的
    的头像 发表于 07-01 09:32 1462次阅读

    苹果加速iPhone组装自动化挑战与机遇并存

    近日,据The Information报道,苹果公司正积极推动其iPhone组装过程的自动化,旨在显著减少生产线上的员工数量。这一策略的实施,始于2022年年底,当iPhone 13系列的组装面临挑战之际,苹果的管理层便已开始考虑通过技术革新来优化生产流程。
    的头像 发表于 06-26 14:34 580次阅读

    机械制造与自动化自动化类吗

    机械制造与自动化自动化领域的一个重要分支,它涉及到机械设计、制造、检测、控制等多个方面,是现代制造业的核心组成部分。 机械制造与自动化是指利用计算机、机器人、传感器等自动化设备和技术
    的头像 发表于 06-11 11:18 1368次阅读

    工业自动化自动化区别是什么

    工业自动化自动化是两个密切相关但又有所区别的概念。在这篇文章中,我们将详细探讨它们之间的区别,以及它们在现代工业生产中的应用。 一、自动化的定义 自动化是指通过使用机器、计算机和其他
    的头像 发表于 06-11 11:13 1448次阅读

    非标自动化设备

    1、非标自动化设备 2、根据需求设计和制造 3、完成代替人工的目标
    发表于 03-25 09:52

    利用知识图谱与Llama-Index技术构建大模型驱动的RAG系统(下)

    对于语言模型(LLM)幻觉,知识图谱被证明优于向量数据库。知识图谱提供更准确、多样、有趣、逻辑和一致的信息,减少了LLM中出现幻觉的可能性。
    的头像 发表于 02-22 14:13 1064次阅读
    利用<b class='flag-5'>知识图谱</b>与Llama-Index技术<b class='flag-5'>构建</b>大模型驱动的RAG系统(下)

    自动化构建环境在FPGA设计中的应用

    为了加快实现 FPGA 构建环境的自动化(如用于持续集成 (CI)),并确保在开发与生命周期后期阶段完整重现设计结果,Missing Link Electronics 团队已整合出一套脚本。
    发表于 02-20 11:05 349次阅读
    <b class='flag-5'>自动化</b><b class='flag-5'>构建</b>环境在FPGA设计中的应用

    知识图谱基础知识应用和学术前沿趋势

    知识图谱(Knowledge Graph)以结构的形式描述客观世界中概念、实体及其关系。是融合了认知计算、知识表示与推理、信息检索与抽取、自然语言处理、Web技术、机器学习与大数据挖掘等等方向的交叉学科。人工智能是以传统符号派
    的头像 发表于 01-08 10:57 832次阅读
    <b class='flag-5'>知识图谱</b>基础<b class='flag-5'>知识</b>应用和学术前沿趋势

    LabVIEW与Tektronix示波器实现电源测试自动化

    LabVIEW与Tektronix示波器实现电源测试自动化 在现代电子测试与测量领域,自动化测试系统的构建是提高效率和精确度的关键。本案例介绍了如何利用LabVIEW软件结合Tektronix
    发表于 12-09 20:37

    浅析中国工业自动化与智能应用

    自动化驱动产品与智能操控系统主要用于工业自动化中的设备自动化领域,其中自动化驱动产品是实现设备单机自动化的核心部件;智能操控系统是在设备单机
    发表于 12-01 10:11 884次阅读
    浅析中国工业<b class='flag-5'>自动化</b>与智能<b class='flag-5'>化</b>应用

    自动化控制系统的基本知识

    工业自动化是机器设备或生产过程在不需要人工直接干预的情况下,按预期的目标实现生产和过程控制的统称。实现生产和过程控制自动化的装置称为自动化控制系统。自动化控制系统作为高端智能装备的重要
    的头像 发表于 11-09 16:45 5124次阅读
    <b class='flag-5'>自动化</b>控制系统的基本<b class='flag-5'>知识</b>