0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

人工智能该如何建立起自身可信度?

姚小熊27 来源:今日头条 作者:今日头条 2020-10-14 09:34 次阅读

人工智能AI)往往被视为一种暗箱实践,即人们并不关注技术本身的运作方式,只强调其能够提供看似正确的结果。在某些情况下,这种效果就已经可以满足需求,因为大多数时候我们都更关注结果,而非结果的具体实现方式。

遗憾的是,将AI视为暗箱过程会产生信任与可靠性等问题。从纯技术的角度来看,这也导致我们难以分析或解决AI模型中存在的问题。

在本文中,我们将共同了解其中的部分潜在问题以及几种解决方案思路。

AI是什么?

不少企业已经将人工智能(AI)元素纳入自家产品。虽然有些“AI”表述只是虚假的营销策略,但也确实有不少产品开始使用AI及机器学习(ML)技术实现自我提升。

简而言之,AI是指一切能够表现出智能行为的计算机系统。在本文的语境下,智能代表着计算机在学习、理解或者概念总结等层面的飞跃式进步。

当前,AI技术最常见的实现形式为机器学习,其中由计算机算法学习并识别数据中的模式。机器学习大致分为三类:

监督学习:即使用已知数据进行模型训练。这有点像给孩子们看最简单的看图识字教材。这类ML也是大家最常接触到的实现形式,但其有着一个致命缺点:只有具备大量可信且经过正确标记的训练数据,才能建立起相关模型。

无监督学习:模型自行在数据中查找模式。手机导航软件使用的就是这种学习方式,特别适合我们对数据一无所知的情况。目前业界往往使用无监督学习从数据中识别出可能具有现实意义的重要聚类。

强化学习:模型在每次正确执行时都会得到奖励。因为这是一种典型的“实验试错”学习方法。如果我们初期只有少量数据,那么这种ML方法将表现得尤为强大。它的出现,直接令持续学习模型成为可能,即模型在接触到新数据后会不断适应及发展,从而保证自身永不过时。

但这些方法都面临着同一个问题,我们无法理解学习后生成的最终模型。换言之,人工智能无法实现人性化。

信任问题

暗箱式AI系统大多属于由机器经过自学过程建立起模型。但由于无法理解系统得出结论的过程,我们就很难理解模型给出特定结论的理由,或者对该结论缺乏信心。我们无法询问模型为什么会这么判断,只能拿结果跟自己的期望进行比较。

如果不理解AI模型的起效原理,我们又怎么能相信模型会永远正确?

结果就是,这种不可理解性同无数反乌托邦科幻作品映射起来,让AI成了恐怖神秘的代名词。更糟糕的是,不少AI模型确实表现出严重的偏差,这也令信任危机被进一步激化。

偏差或者说偏见,一直植根于人类的思想意识当中,现在它也开始成为AI技术无法回避的大难题。因为系统只能从过往的情况中学习经验,而这些可能并不足以指导模型做出面向未来的正确选择。

以AI模型在犯罪预测中的应用为例,这些模型会使用以往犯罪统计数据来确定哪些地区的犯罪率比较高。执法部门则调整巡逻路线以向这些地区集中警力资源。但人们普遍质疑,使用这类数据本身就是在加强偏见,或者潜在地将相关性混淆为因果性。

例如,随着新冠疫情的肆虐,美国各大主要城市的暴力犯罪率开始显著下降;但在某些司法管辖区内,汽车盗窃及其他劫掠案件却有所增加。普通人可能会将这些变化与全国范围内的社交隔离合理联系起来,但预测性警务模型却有可能错误地将犯罪数量及逮捕率的降低解释为稳定性与治安水平的提升。

目前,人工智能中存在多种形式的偏见。以人脸识别软件为例,研究表明包含“人口统计学偏见”的算法会根据对象的年龄、性别或种族做出准确率波动极大的判断。

有时,数据科学家在执行特征工程以尝试清洗源数据时,同样会引发偏差/偏见问题,导致其中某些微妙但却极为重要的特征意外丢失。

影响最大的偏见甚至可能引发社会层面的问题。例如,广告算法会根据人口统计数据定期投放广告,从而将对于年龄、性别、种族、宗教或社会经济等因素的偏见永久留存在模型之内。AI技术在招聘应用中也暴露出了类似的缺陷。

当然,这一切都源自人类自己引发的原始偏见。但是,我们该如何在AI模型中发现这些偏见并将其清除出去?

可解释AI

为了增加对AI系统的信任度,AI研究人员正在探索构建可解释AI(XAI)的可能性,希望借此实现AI方案的人性化。

XAI能够避免我们在暗箱模型中难以识别的种种问题。例如,2017年研究人员的报告称发现了一项AI作弊问题。该AI模型在训练之后能够成功识别出马匹的图像,相当于对经典狗/猫识别能力的变体。但事实证明,AI学会的实际上是识别与马匹图片相关的特定版权标注。

为了实现XAI,我们需要观察并理解模型内部的整个运作过程。这项探索本身已经构成了理论计算机科学中的一大分支,其困难程度可能也远超大家的想象。

比较简单的机器学习算法当然相对易于解释,但神经网络则复杂得多。即使是包括分层相关性传播(LRP)在内的各类最新技术,也只能显示哪些输入对于决策制定更为重要。因此,研究人员的注意力开始转向本地可解释性目标,希望借此对模型做出的某些特定预测做出解释。

AI模型为什么难以理解?

目前,大多数ML模型基于人工神经元。人工神经元(或称感知器)使用传递函数对一个或多个加权输入进行组合。以此为基础,激活函数将使用阈值以决定是否触发。这种方法,实际上限制了神经元在人脑中的工作方式。

人工智能该如何实现人性化,才能建立起自身可信度?

作为一种常见的ML模型,神经网络由多层人工神经元组成。输入层与重要特征拥有相同的输入数量,同时辅以大量隐藏层。最后,输出层也将拥有与重要特征相同的输出数量。

我们以最简单的应用场景为例,考虑ML模型如果根据今天是星期几及是否属于假期来预测您的起床时间。

在随机分配权重的情况下,模型会生成错误的结果,即我们周三需要在上午9点起床。

我们当然不可能以手动方式为每个人工神经元设置确切的权重。相反,我们需要使用所谓反向传播过程,算法将在模型中反向运作,借此调整网络的权重与偏差,力求将预测输出与预期输出间的差异控制在最小范围。在调整之后,结果是周三早上应该7点起床。

信任与道德

技术信任问题正变得愈发重要,毕竟我们已经在尝试使用AI诊断癌症、识别人群中的通缉犯并做出雇用/解雇决策。如果无法实现AI人性化,又怎么能要求人们向其给予信任呢?如果没有这种信任,以符合道德的方式加以使用更是痴人说梦。

对于这个重要问题,欧盟已经通过一套关于可信AI的道德准则,针对AI是否符合道德及具备可信度设置了七项测试:

人类代理与监督:AI系统不可在人类不具备最终决定权的情况下做出决策。

技术的健壮性与安全性:在使用AI技术之前,必须明确其是否可靠,包括具备故障保护能力且不会被黑客入侵。

隐私与数据治理:AI模型往往需要处理个人数据,例如通过医学造影图像诊断疾病。这意味着数据隐私将非常重要。

透明度:AI模型应该具备人类可解释的基本属性。

多样性、非歧视性与公平性:主要涉及我们前文讨论过的偏见问题。

环境与社会福祉:在这里,准则制定者们希望消除人们对于AI技术发展造成反乌托邦式未来的担忧。

问责制度:必须建立起独立的监督或监控制度。

当然,指南也强调,必须以合法方式使用AI技术。

AI的人性化之路

本文关注的重点只有一个:人工智能该如何实现人性化,从而切实建立起自身可信度。

人类很难相信自己无法理解的机器,并最终阻碍了我们从这一创新技术中切实受益。

这个问题在软件测试自动化领域表现得尤其明显,因为此类系统的意义就是在应用方案发布之前找到其中存在的潜在问题。如果不了解具体流程,我们要如何确定测试结果的正确性?如果做出了错误决定,该怎么办?如果AI系统遗漏了某些问题,我们该如何发现或者做出响应?

为了解决这个难题,必须将ML算法与测试体系结合起来,实现决策制定与相应数据间关联关系的可视化。只有这样,我们才能彻底告别暗箱式AI。这是一项踏踏实实的工作,没有奇迹、没有魔法,可以依赖的只有不懈努力与对机器学习美好未来的憧憬。
责任编辑:YYX

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    30829

    浏览量

    268979
  • 人工智能
    +关注

    关注

    1791

    文章

    47244

    浏览量

    238355
收藏 人收藏

    评论

    相关推荐

    嵌入式和人工智能究竟是什么关系?

    嵌入式和人工智能究竟是什么关系? 嵌入式系统是一种特殊的系统,它通常被嵌入到其他设备或机器中,以实现特定功能。嵌入式系统具有非常强的适应性和灵活性,能够根据用户需求进行定制化设计。它广泛应用于各种
    发表于 11-14 16:39

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    幸得一好书,特此来分享。感谢平台,感谢作者。受益匪浅。 在阅读《AI for Science:人工智能驱动科学创新》的第6章后,我深刻感受到人工智能在能源科学领域中的巨大潜力和广泛应用。这一章详细
    发表于 10-14 09:27

    《AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    非常高兴本周末收到一本新书,也非常感谢平台提供阅读机会。 这是一本挺好的书,包装精美,内容详实,干活满满。 关于《AI for Science:人工智能驱动科学创新》第二章“AI
    发表于 10-14 09:16

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    周末收到一本新书,非常高兴,也非常感谢平台提供阅读机会。 这是一本挺好的书,包装精美,内容详实,干活满满。 《AI for Science:人工智能驱动科学创新》这本书的第一章,作为整个著作的开篇
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    和使用技术,无需支付专利费或使用费。这大大降低了人工智能图像处理技术的研发成本,并吸引了大量的开发者、企业和研究机构参与其生态建设。 灵活性则体现在RISC-V可以根据不同的应用场景进行定制和优化,从而
    发表于 09-28 11:00

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    ! 《AI for Science:人工智能驱动科学创新》 这本书便将为读者徐徐展开AI for Science的美丽图景,与大家一起去了解: 人工智能究竟帮科学家做了什么? 人工智能将如何改变我们所生
    发表于 09-09 13:54

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    8月28日至30日,2024深圳(国际)通用人工智能大会暨深圳(国际)通用人工智能产业博览会将在深圳国际会展中心(宝安)举办。大会以“魅力AI·无限未来”为主题,致力于打造全球通用人工智能领域集产品
    发表于 08-22 15:00

    在进行开环分析时,Aol(开环增益)曲线与1/β(噪声增益)曲线的交点频率如何用等式建立起来?

    如上图电路所示,在进行开环分析时,Aol(开环增益)曲线与1/β(噪声增益)曲线的交点频率如何用等式建立起来?
    发表于 08-15 08:17

    FPGA在人工智能中的应用有哪些?

    FPGA(现场可编程门阵列)在人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行性和低延迟特性
    发表于 07-29 17:05

    夏普讨论建立人工智能数据中心

    近日,夏普公司宣布与KDDI公司达成重要合作意向,双方将针对建立人工智能数据中心进行深入讨论。据悉,此次合作将围绕英伟达的人工智能计算平台和Supermicro平台展开,共同探索人工智能领域的创新发展。
    的头像 发表于 06-05 09:17 466次阅读

    欧盟设立人工智能办公室,加强监管推动可信AI发展

    欧盟近日宣布成立全新的人工智能办公室,旨在全面监管人工智能领域,确保可信人工智能的健康发展,并有效防范潜在风险。
    的头像 发表于 05-31 10:42 528次阅读

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2)

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2) 课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 14分50秒 https
    发表于 05-10 16:46

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 14分50秒 https://t.elecfans.com/v/25508.html *附件:参赛基础知识指引
    发表于 04-01 10:40

    全球AI科学家呼吁合作应对人工智能风险

    在此份声明中,学者们强调必须联手建立起立体的人工智能安全防线,预防可能在人类寿命周期内带来无法承受的风险。人们须要团结协作,以规避未知技术可能引发的灾难后果。
    的头像 发表于 03-19 16:04 959次阅读

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能领域布局
    发表于 02-26 10:17