0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

文献综述:确保人工智能可解释性和可信度的来源记录

AI智胜未来 来源:数据智能英文刊 2023-04-28 15:55 次阅读

最近,人工智能AI)和机器学习(ML)模型在各个领域的应用都取得了显著的进展,相关讨论也在不断增多。学界认为,AI和ML模型应当是透明的,可解释的和可信的。

在此背景下,可解释AI(XAI)领域在迅速扩张。通过解释一些复杂模型,比如深度神经网络(DNN)结果如何生成,可解释AI在提高人工智能系统可信度和透明度方面前景广阔。此外,许多研究员和业内人士认为,使用数据起源去解释这些复杂的模型有助于提高基于人工智能系统的透明度。

本文对数据起源、可解释AI(XAI)和可信赖AI(TAI)进行系统的文献综述,以解释基本概念,说明数据起源文件可以用来提升基于人工智能系统实现可解释性。此外,文中还讨论了这个领域近期的发展模式,并对未来的研究进行展望。

对于有意了解关于数据起源,XAI和TAI的实质的诸多学者和业界人士,希望本文能成为助力研究的一个起点。

一文章提纲

1. 引言

2. XAI和TAI的基本概念

3. 数据起源, XAI, TAI的文献计量分析

4. 数据起源, XAI, TAI的关系的思考

5. 数据起源, XAI, TAI未来十年发展趋势

6. 结论

二内容总结

引言

人工智能的应用广泛,且对人类影响深远。但现有的模型只有结果而不涉及过程,因此,很多人担心这些模型不透明,不公平。比如“机器学习和深度学习是怎么工作,怎么产生结果”是一个黑箱问题。对此,有一个解决办法是通过XAI,也就是建设TAI去解释复杂模型。

作者引用文献阐述XAI和TAI的技术方法——数据起源的重要性和有效性。本文对这三者进行文献综述并关注他们在数据科学中的应用。基于关键词在Scopus文献库中进行文献搜索,采用滚雪球的策略研究2010年到2020年的论文。

XAI和TAI的基本概念

AI可解释性和可信度的背景

作者先列举了多例AI和机器学习的漏洞证明了提高可解释性的重要。又说明TAl的基本原则是建立合法透明的AI系统。然后列举各个国家在数据科学领域到XAI方法和战略计划,学者Wing扩充了计算机系统的维度,并认为需要权衡多种维度。

132a9c5a-e515-11ed-ab56-dac502259ad0.png

图1 XAI和TAI的谷歌趋势

13393b20-e515-11ed-ab56-dac502259ad0.png

图2 文献库中论文的时间分布

实现XAI和TAI的技术途径

1346202e-e515-11ed-ab56-dac502259ad0.png

图3 ML模型分类及对应XAI方法

这些方法可以生成结果,但是为了增加AI系统的透明度,需要应用数据起源作为XAI的补充技术。

多方面的文献计量分析

文中进行文献计量分析去搜集这三者之间在论文中相互关联的证据。作者说明选择数据库的原因和查询的关键字以及分析工具是Bibliometrix和VOS Viewer。

135d297c-e515-11ed-ab56-dac502259ad0.png

图4 参考文献标题中的单词可视化词云

136a2cc6-e515-11ed-ab56-dac502259ad0.png

图5 关键词共现图聚类

三者关系思考

来源标准的关注度和相关工作增加

作者进行文献综述,整理研究主题后得出:

1399f992-e515-11ed-ab56-dac502259ad0.png

图6 三者话题相似度

文中也介绍了一些能够使得Provenance文档化的工具,比如W3C PROV本体,OpenML等。

数据起源实践及对XAI和TAI的支持

对于现实世界的实践,作者进行文献综述,讲述数据起源模型类别,W3C PROV的六个组件,然后作者简单介绍Renku等应用工具软件。

未来十年展望

本部分讨论了在AI/ML模型中造成偏差的原因,数据不可追踪,没有数据起源支持的决定是不可信的。

这项工作是社会-技术交叉领域问题,需要从两方面解决问题。

开发数据起源功能应用前应掌握用户需求

应开发更多的自动化工具记录数据起源,并将其标准化、使数据起源记录可查询可访问。

结论

用事后解释的方法来解释AI或机器学习模型是不够的,需要数据起源加入增加系统可信度和透明度。作者总结了文章行文顺序,强调数据起源对于XAI和TAI的重要性。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 神经网络
    +关注

    关注

    42

    文章

    4733

    浏览量

    100410
  • 自动化
    +关注

    关注

    29

    文章

    5482

    浏览量

    78988
  • 人工智能
    +关注

    关注

    1789

    文章

    46631

    浏览量

    236977

原文标题:文献综述:确保人工智能可解释性和可信度的来源记录

文章出处:【微信号:AI智胜未来,微信公众号:AI智胜未来】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    和国际合作等多个层面。这些内容让我更加认识到,在推动人工智能与能源科学融合的过程中,需要不断探索和创新,以应对各种挑战和机遇。 最后,通过阅读这一章,我深刻感受到人工智能对于能源科学的重要
    发表于 10-14 09:27

    《AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    。 4. 物理与AI的融合 在阅读过程中,我对于物理与AI的融合有了更加深入的认识。AI for Science不仅依赖于数据,还需要结合物理定律和原理来确保模型的准确可解释性。这种融合不仅提高了模型
    发表于 10-14 09:16

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    的同时,确保其公正、透明度和可持续,是当前和未来科学研究必须面对的重要课题。此外,培养具备AI技能的科研人才,也是推动这一领域发展的关键。 4. 激发创新思维 阅读这一章,我被深深启发的是
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    RISC-V在人工智能图像处理领域的应用前景十分广阔,这主要得益于其开源、灵活性和低功耗等特点。以下是对RISC-V在人工智能图像处理应用前景的详细分析: 一、RISC-V的基本特点 RISC-V
    发表于 09-28 11:00

    全球人工智能峰会呼吁全球行动,确保人工智能创新“造福人类”

    沙特阿拉伯利雅得2024年9月16日 /美通社/ -- 在利雅得举行的全球人工智能峰会(GAIN)圆满落幕,为期三天的峰会迎来了来自全球各地的3万多名代表。 此次峰会由Saudi Data
    的头像 发表于 09-17 11:42 165次阅读

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    ! 《AI for Science:人工智能驱动科学创新》 这本书便将为读者徐徐展开AI for Science的美丽图景,与大家一起去了解: 人工智能究竟帮科学家做了什么? 人工智能将如何改变我们所生
    发表于 09-09 13:54

    FPGA在人工智能中的应用有哪些?

    FPGA(现场可编程门阵列)在人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行和低延迟特性
    发表于 07-29 17:05

    【大规模语言模型:从理论到实践】- 阅读体验

    直观地解释和理解。这可能会影响模型的可解释性可信,特别是在需要高度可靠的场景中。 通过修改注意力机制的计算方式或引入新的架构来降低
    发表于 06-07 14:44

    欧盟设立人工智能办公室,加强监管推动可信AI发展

    欧盟近日宣布成立全新的人工智能办公室,旨在全面监管人工智能领域,确保可信人工智能的健康发展,并有效防范潜在风险。
    的头像 发表于 05-31 10:42 488次阅读

    【大语言模型:原理与工程实践】核心技术综述

    中应用,需要考虑到性能、可扩展性和安全等因素。 大语言模型正在快速发展,新技术不断涌现。未来的研究可能集中在提高模型效率、理解和可解释性以及确保模型的公平和伦理使用。 提供几个参
    发表于 05-05 10:56

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 14分50秒 https://t.elecfans.com/v/25508.html *附件:参赛基础知识指引
    发表于 04-01 10:40

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能领域布局
    发表于 02-26 10:17

    爱立信推出认知软件新功能

    日前,爱立信宣布在其专为运营商设计的认知软件组合中,新增采用“可解释性人工智能(Explainable AI,XAI)”的新功能,进一步加速在网络设计和优化中采用人工智能后的价值转化。
    的头像 发表于 02-22 09:22 5183次阅读

    关于模拟仿真测试可信度评估方法的研究(上)——评估框架

    ,成为自动驾驶功能测试验证的重要支柱[1],已得到业内广泛认可。基于赛目科技前期提出的智能网联汽车产品测试策略研究成果 ,本篇文章提出模拟仿真测试可信度评估框架及一系列评估方法,为后续开展仿真测试可信度评估提供参
    的头像 发表于 11-16 20:10 1877次阅读
    关于模拟仿真测试<b class='flag-5'>可信度</b>评估方法的研究(上)——评估框架

    人工智能大模型、应用场景、应用部署教程超详细资料

    人工智能是IC行业近几年的热词,目前此技术已经有很多成熟的模型和落地案例。在此跟大家做个分享,更多详细资料,请自行搜索:【展锐坦克邦】,坦克邦-智算天地集算法模型、部署说明于一体,为广大客户提供了
    发表于 11-13 14:49