0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

知识图谱——技术与行业应用

恬静简朴1 来源:恬静简朴1 作者:恬静简朴1 2022-10-14 10:40 次阅读

从一开始的Google搜索,到现在的聊天机器人、大数据风控、证券投资、智能医疗、自适应教育、推荐系统,无一不跟知识图谱相关。

随着移动互联网的发展,万物互联成为了可能,这种互联所产生的数据也在爆发式地增长,而且这些数据恰好可以作为分析关系的有效原料。如果说以往的智能分析专注在每一个个体上,在移动互联网时代则除了个体,这种个体之间的关系也必然成为我们需要深入分析的很重要一部分。 在一项任务中,只要有关系分析的需求,知识图谱就“有可能”派的上用场。

知识图谱的表示

知识图谱应用的前提是已经构建好了知识图谱,也可以把它认为是一个知识库。这也是为什么它可以用来回答一些搜索相关问题的原因,比如在Google搜索引擎里输入“Who is the wife of Bill Gates?”,我们直接可以得到答案-“Melinda Gates”。这是因为我们在系统层面上已经创建好了一个包含“Bill Gates”和“Melinda Gates”的实体以及他俩之间关系的知识库。所以,当我们执行搜索的时候,就可以通过关键词提取("Bill Gates", "Melinda Gates", "wife")以及知识库上的匹配可以直接获得最终的答案。这种搜索方式跟传统的搜索引擎是不一样的,一个传统的搜索引擎它返回的是网页、而不是最终的答案,所以就多了一层用户自己筛选并过滤信息的过程。

poYBAGNIzBKAaTkxAAIlyThzrBw436.png

在现实世界中,实体和关系也会拥有各自的属性,比如人可以有“姓名”和“年龄”。当一个知识图谱拥有属性时,我们可以用属性图(Property Graph)来表示。下面的图表示一个简单的属性图。李明和李飞是父子关系,并且李明拥有一个138开头的电话号,这个电话号开通时间是2018年,其中2018年就可以作为关系的属性。类似的,李明本人也带有一些属性值比如年龄为25岁、职位是总经理等。

pYYBAGNIzBSAQNLKAAIACxc8tZc445.png

这种属性图的表达很贴近现实生活中的场景,也可以很好地描述业务中所包含的逻辑。除了属性图,知识图谱也可以用RDF来表示,它是由很多的三元组(Triples)来组成。RDF在设计上的主要特点是易于发布和分享数据,但不支持实体或关系拥有属性,如果非要加上属性,则在设计上需要做一些修改。目前来看,RDF主要还是用于学术的场景,在工业界我们更多的还是采用图数据库(比如用来存储属性图)的方式。感兴趣的读者可以参考RDF的相关文献,在文本里不多做解释。

知识抽取

知识图谱的构建是后续应用的基础,而且构建的前提是需要把数据从不同的数据源中抽取出来。对于垂直领域的知识图谱来说,它们的数据源主要来自两种渠道:一种是业务本身的数据,这部分数据通常包含在公司内的数据库表并以结构化的方式存储;另一种是网络上公开、抓取的数据,这些数据通常是以网页的形式存在所以是非结构化的数据。

前者一般只需要简单预处理即可以作为后续AI系统的输入,但后者一般需要借助于自然语言处理等技术来提取出结构化信息。比如在上面的搜索例子里,Bill Gates和Malinda Gate的关系就可以从非结构化数据中提炼出来,比如维基百科等数据源。

pYYBAGNIzBWAD60gAAG3JGg5ERU878.png

信息抽取的难点在于处理非结构化数据。在下面的图中,我们给出了一个实例。左边是一段非结构化的英文文本,右边是从这些文本中抽取出来的实体和关系。在构建类似的图谱过程当中,主要涉及以下几个方面的自然语言处理技术:

a. 实体命名识别(Name Entity Recognition)

b. 关系抽取(Relation Extraction)

c. 实体统一(Entity Resolution)

d. 指代消解(Coreference Resolution)

知识图谱的存储

知识图谱主要有两种存储方式:一种是基于RDF的存储;另一种是基于图数据库的存储。它们之间的区别如下图所示。RDF一个重要的设计原则是数据的易发布以及共享,图数据库则把重点放在了高效的图查询和搜索上。其次,RDF以三元组的方式来存储数据而且不包含属性信息,但图数据库一般以属性图为基本的表示形式,所以实体和关系可以包含属性,这就意味着更容易表达现实的业务场景。

poYBAGNIzBaAKwfhAAGWlMzuoKY396.png

根据最新的统计(2018年上半年),图数据库仍然是增长最快的存储系统。相反,关系型数据库的增长基本保持在一个稳定的水平。同时,我们也列出了常用的图数据库系统以及他们最新使用情况的排名。 其中Neo4j系统目前仍是使用率最高的图数据库,它拥有活跃的社区,而且系统本身的查询效率高,但唯一的不足就是不支持准分布式。相反,OrientDB和JanusGraph(原Titan)支持分布式,但这些系统相对较新,社区不如Neo4j活跃,这也就意味着使用过程当中不可避免地会遇到一些刺手的问题。如果选择使用RDF的存储系统,Jena或许一个比较不错的选择。

pYYBAGNIzBeAHp_sAAH9wf4RM1k801.png

知识图谱在其他行业中的应用

除了金融领域,知识图谱的应用可以涉及到很多其他的行业,包括医疗、教育、证券投资、推荐等等。其实,只要有关系存在,则有知识图谱可发挥价值的地方。 在这里简单举几个垂直行业中的应用。

比如对于教育行业,我们经常谈论个性化教育、因材施教的理念。其核心在于理解学生当前的知识体系,而且这种知识体系依赖于我们所获取到的数据比如交互数据、评测数据、互动数据等等。为了分析学习路径以及知识结构,我们则需要针对于一个领域的概念知识图谱,简单来讲就是概念拓扑结构。在下面的图中,我们给出了一个非常简单的概念图谱:比如为了学习逻辑回归则需要先理解线性回归;为了学习CNN,得对神经网络有所理解等等。所有对学生的评测、互动分析都离不开概念图谱这个底层的数据。

poYBAGNIzBiAHYW3AAFlnZCiH4o564.png

在证券领域,我们经常会关心比如“一个事件发生了,对哪些公司产生什么样的影响?” 比如有一个负面消息是关于公司1的高管,而且我们知道公司1和公司2有种很密切的合作关系,公司2有个主营产品是由公司3提供的原料基础上做出来的。

poYBAGNIzBmAcRIMAAJehHxE9cs206.png

其实有了这样的一个知识图谱,我们很容易回答哪些公司有可能会被这次的负面事件所影响。当然,仅仅是“有可能”,具体会不会有强相关性必须由数据来验证。所以在这里,知识图谱的好处就是把我们所需要关注的范围很快给我们圈定。接下来的问题会更复杂一些,比如既然我们知道公司3有可能被这次事件所影响,那具体影响程度有多大? 对于这个问题,光靠知识图谱是很难回答的,必须要有一个影响模型、以及需要一些历史数据才能在知识图谱中做进一步推理以及计算。

实践上的几点建议

首先,知识图谱是一个比较新的工具,它的主要作用还是在于分析关系,尤其是深度的关系。所以在业务上,首先要确保它的必要性,其实很多问题可以用非知识图谱的方式来解决。

知识图谱领域一个最重要的话题是知识的推理。 而且知识的推理是走向强人工智能的必经之路。但很遗憾的,目前很多语义网络的角度讨论的推理技术(比如基于深度学习,概率统计)很难在实际的垂直应用中落地。其实目前最有效的方式还是基于一些规则的方法论,除非我们有非常庞大的数据集。

最后,还是要强调一点,知识图谱工程本身还是业务为重心,以数据为中心。不要低估业务和数据的重要性。

总之知识图谱是一个既充满挑战而且非常有趣的领域。只要有正确的应用场景,对于知识图谱所能发挥的价值还是可以期待的。我相信在未来不到2,3年时间里,知识图谱技术会普及到各个领域当中。

审核编辑 黄昊宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据库
    +关注

    关注

    7

    文章

    3750

    浏览量

    64216
  • 知识图谱
    +关注

    关注

    2

    文章

    132

    浏览量

    7681
收藏 人收藏

    评论

    相关推荐

    易智瑞荣获“信息技术应用创新工作委员会技术活动单位”

    布的GeoScene V4.1在自主创新方面的新特性、新能力,重点展示GeoScene V4.1在三维、人工智能、影像、知识图谱等方面的新成果。
    的头像 发表于 10-11 10:41 335次阅读
    易智瑞荣获“信息<b class='flag-5'>技术</b>应用创新工作委员会<b class='flag-5'>技术</b>活动单位”

    革新未来智能版图,神州数码荣登IDC生成式AI图谱

    6月19日,国际权威市场研究机构IDC正式发布了《2024年第二季度生成式AI生态图谱》,其中,神州数码凭借在生成式AI领域的领先布局,以其深度整合算力、模型、知识与应用的核心能力,成功占据生态图谱
    的头像 发表于 07-29 15:20 353次阅读
    革新未来智能版图,神州数码荣登IDC生成式AI<b class='flag-5'>图谱</b>

    万里红入选《嘶吼2024网络安全产业图谱》8个细分领域

    反映了网络安全行业的市场规模,深入分析了行业热门细分赛道的市场潜力和发展趋势。凭借深厚的技术创新力和全方位安全服务力,万里红2大领域荣膺TOP10优秀安全企业,实力上榜身份访问管理、网络访问控制、网络安全审计、网络隔离、服务器监
    的头像 发表于 07-23 14:42 643次阅读
    万里红入选《嘶吼2024网络安全产业<b class='flag-5'>图谱</b>》8个细分领域

    三星电子成功收购英国初创公司,致力开发AI核心技术

    7月18日,三星电子正式对外宣布了一项重要战略举措——成功收购英国新兴科技企业Oxford Semantic Technologies。这家初创公司成立于2017年,专注于前沿的知识图谱技术领域,致力于开发能够赋能更复杂AI应用的核心
    的头像 发表于 07-18 15:40 480次阅读

    三星电子将收购英国知识图谱技术初创企业

    在人工智能技术日新月异的今天,三星电子公司再次展现了其前瞻性的战略布局与技术创新实力。近日,三星正式宣布完成了对英国领先的人工智能(AI)与知识图谱技术初创企业Oxford Seman
    的头像 发表于 07-18 14:46 486次阅读

    知识图谱与大模型之间的关系

    在人工智能的广阔领域中,知识图谱与大模型是两个至关重要的概念,它们各自拥有独特的优势和应用场景,同时又相互补充,共同推动着人工智能技术的发展。本文将从定义、特点、应用及相互关系等方面深入探讨知识图谱与大模型之间的关系。
    的头像 发表于 07-10 11:39 823次阅读

    维智科技入选《2024中国数据智能产业图谱1.0》

    近日,数据猿与上海大数据联盟联合发布了《2024中国数据智能产业图谱1.0》,旨在以大数据与AI为代表的智能技术为主要视角,聚焦全产业链为业内提供更为专业直观的行业指导。维智科技凭借在政务数字化
    的头像 发表于 06-14 19:27 920次阅读
    维智科技入选《2024中国数据智能产业<b class='flag-5'>图谱</b>1.0》

    利用知识图谱与Llama-Index技术构建大模型驱动的RAG系统(下)

    对于语言模型(LLM)幻觉,知识图谱被证明优于向量数据库。知识图谱提供更准确、多样化、有趣、逻辑和一致的信息,减少了LLM中出现幻觉的可能性。
    的头像 发表于 02-22 14:13 1064次阅读
    利用<b class='flag-5'>知识图谱</b>与Llama-Index<b class='flag-5'>技术</b>构建大模型驱动的RAG系统(下)

    利用知识图谱与Llama-Index技术构建大模型驱动的RAG系统(上)

    向量数据库是一组高维向量的集合,用于表示实体或概念,例如单词、短语或文档。向量数据库可以根据实体或概念的向量表示来度量它们之间的相似性或关联性。
    的头像 发表于 02-22 14:07 976次阅读
    利用<b class='flag-5'>知识图谱</b>与Llama-Index<b class='flag-5'>技术</b>构建大模型驱动的RAG系统(上)

    知识图谱基础知识应用和学术前沿趋势

    知识图谱(Knowledge Graph)以结构化的形式描述客观世界中概念、实体及其关系。是融合了认知计算、知识表示与推理、信息检索与抽取、自然语言处理、Web技术、机器学习与大数据挖掘等等方向的交叉学科。人工智能是以传统符号派
    的头像 发表于 01-08 10:57 832次阅读
    <b class='flag-5'>知识图谱</b>基础<b class='flag-5'>知识</b>应用和学术前沿趋势

    中软国际成功上榜信通院《数据治理产业图谱2.0》,全面满足数据治理全链路需求

    再次入选产业图谱。 · 中软国际成功上榜三大板块 · · 数据治理产品——数据管理一体化平台 · 数据治理服务商——咨询实施综合类服务 · 行业数据治理厂商——交通行业 中软国际数据治理能力覆盖
    的头像 发表于 12-25 19:00 1253次阅读
    中软国际成功上榜信通院《数据治理产业<b class='flag-5'>图谱</b>2.0》,全面满足数据治理全链路需求

    见合八方SOA产品图谱介绍

    电子发烧友网站提供《见合八方SOA产品图谱介绍》资料免费下载
    发表于 12-19 16:13 0次下载

    电气技术基础知识

    电气技术基础知识
    的头像 发表于 12-14 09:11 1447次阅读
    电气<b class='flag-5'>技术</b>基础<b class='flag-5'>知识</b>

    智慧灯杆产业链企业图谱

    智慧灯杆产业链企业图谱智慧灯杆产业链企业图谱智慧灯杆产业链企业图谱智慧灯杆产业链企业图谱智慧灯杆产业链企业图谱智慧灯杆产业链企业
    发表于 12-11 17:36 1次下载

    《电子工程师必备——九大系统电路识图宝典》+附录2化整为零和集零为整电路分析方法

    感谢提供的试读机会! 感谢作者 胡斌! 感谢作者 胡松! 感谢人民邮电出版社! 感谢中国工信出版集团! 感谢电子发烧友论坛! 接上四篇: 《电子工程师必备——九大系统电路识图宝典》+视频讲解附录6
    发表于 11-18 21:06