0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

保守的机器学习如何拯救日新月异的我们

倩倩 来源:雷锋网 2020-04-15 16:13 次阅读

热热闹闹的机器学习浪潮给学术研究和实际应用都带来了很多新意,似乎我们可以就这样乐观地乘着机器学习的列车驶向未来。记者、科幻小说作者 Cory Doctorow 近期的一篇文章就提出了一种角度新颖且有趣的质疑。雷锋网 AI 科技评论编译如下。

Cory Doctorow:

我成为一个现代科技的爱好者、宣扬者已经好几十年了,我也阅读过无数的发人深省的、影响深远的科技批评观点。不过,这几年的机器学习要远比其他的科技趋势火热许多。从大众媒体报道、从企业宣传上来看,许多曾经在理想中的高科技产品、高科技生活方式,都会借助机器学习的力量来到我们身边。

但在这所有美好的愿景背后,也有一些质疑的声音让人反复咀嚼。蒙特利尔麦吉尔大学的 Molly Sauter 在 2017 年写了一篇略微奇怪但富有诗意的文章《Instant Recall》,里面有这么一句「机器学习从本质上来讲是保守的」。

机器学习从本质上来讲是保守的,它没法改变,它只能默认未来和过去是一样的。如果你给你的伴侣发消息时候用过「Hey darling」这个开头,那下次你一打出来「Hey」,「darling」就会出现在自动补全列表的第一个位置上,即便这次你可能是要提分手的。如果你打的某个词是你自己此前从未用过的,那么自动补全会根据所有用户的输入统计数据,把最经常出现的词推荐给你。可能大多数时候这不会造成什么问题,但是 2018 年 7 月我给看孩子的保姆(babysitter)发消息打到「Can you sit(带)」的时候,它接下来推荐的自动补全是「on my face and」,这就非常糟糕了,我把这事发到网上以后还引起了不小的争论。

这种保守性在每一个使用机器学习算法的推荐、推理系统里面都能看到:当你在网上搜索「电冰箱」之后,算法就会给你打上「想买电冰箱」的标签,然后一直关注着这个「想买电冰箱」的身份的活动,在各种广告位给你介绍各种电冰箱,即便你已经买了也不会停止;或者在视频网站纯粹因为好奇搜索了某个冷门话题,大概了解了、觉得以后再不会看这个话题之后,它还是会反反复复给你推荐这个话题,因为需要「强化推荐你感兴趣的内容」;在社交平台上关注一个人之后,它会给你推荐「相似的人」,即便你自己很明白你为什么没关注他们。

不可否认,机器学习有很强的寻找关联性的能力,比如机器学习可以自然地认为「在很长一段时间里张三的通讯录里都存了李四的电话号码和家庭住址,所以他们肯定是好朋友」;但机器学习并不能学到因果关系,所以实际上更容易出现的事情是,张三的通讯录里存了李四的电话号码和家庭住址,这是因为张三在跟踪、偷窥李四,然而 Facebook 扫描了张三的通讯录以后,反而推荐李四把张三加为好友。

另外,机器学习也没法提供可靠的推测意图的工具——人类学的一条基础定理就是,「如果没有对话,那么意图就是不可知的」。Cliff Geertz 在 1973 年的《Thick Description》文章里是这么说的,如果你在观察某个人,但你不让他知道你在观察他、他也不知道你在观察他,那你就分辨不出他到底是为了暗示什么而「挤眼」还是只是累了所以「眨眼」。

说到底,机器学习所能做的,是找到和它现在就能建模的东西类似的东西。机器学习系统很擅长找到和它们见过的车长得类似的车,也擅长找到和它们见过的人脸长得类似的人脸——这顺便也用非常简单的到底解释了为什么面部识别系统对于白人的脸识别准确率更高,就是因为往往是白人圈子设计的系统、组织收集的数据,所以见白人的脸见得更多而已。

机器学习的有害之处就是从这样的「保守」倾向里逐渐渗透出来的。如果你设计一个机器学习系统帮助警察预测他们应该抓谁,系统肯定会建议抓「和已经抓过的人类似的人」。人权数据分析组织的 Patrick Ball 是这样说的:「给警察配备的预测系统预测不了犯罪,它只能预测警察会做什么」。

不过,警察根据自己的判断决定逮捕谁,和警察看到系统预测了一个人然后去逮捕他,两者也有一些区别。对不愿意了解其中细节的局外人来说,算法做出的决定更容易显得公众,毕竟「数学是没有歧视的」、「数学是不会说谎的」。只可惜,机器学习里并不仅仅有数学而已,要说「算法能客观地反应社会真实需求」,倒不如说「算法能真实反应设计它的人的观念和习惯」。

英国有一个非医疗用药分类的例子。David Nutt 是一位杰出的精神药理学家,英国议会请他对非医疗用途的精神类药品的危险性排一个序,方便政府制定对应的药品管理政策。David Nutt 组织了一群专家做了详细的讨论,他们排了三个顺序出来:对使用者自己的危害的排序,对使用者的家庭的危害的排序,以及对社会整体的危害的排序。然后他对议会说,你只需要告诉我你最想保护哪一类,我就能给你一个准确的排序。排序本身并不难,有很多基于实证的证据可以参考,得到准确的结果;但「最想保护哪一类」是人类需要做的价值判断,没有「是否准确」之分。

数据分析这件事由来已久,从第一种税收的开始就需要分析数据;基于数据的科学和工具研究也为我们带来了许许多多的便利。但是指望不可靠的黑盒子在来告诉我们应该要什么、应该怎么做,就会在「理智」和「进步」的表面之下,实际带来更多的固定流程化处理、让人文关怀消失。科学技术能做什么当然重要,但更重要的是,它到底影响了谁、又是在谁的立场上做的这些决定。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 算法
    +关注

    关注

    23

    文章

    4626

    浏览量

    93157
  • 机器学习
    +关注

    关注

    66

    文章

    8434

    浏览量

    132877
  • 数据分析
    +关注

    关注

    2

    文章

    1459

    浏览量

    34100
收藏 人收藏

    相关推荐

    工业显示器在智能机器人领域的应用推动人工智能行业发展

    在科技日新月异的今天,智能机器人正逐步成为工业生产线上不可或缺的一部分,它们以高效、精准、不知疲倦的特点,引领着制造业向智能化、自动化转型的浪潮。
    的头像 发表于 01-13 16:41 212次阅读
    工业显示器在智能<b class='flag-5'>机器</b>人领域的应用推动人工智能行业发展

    企业共话AI+机器人智向何方

    智能制造业日新月异,一座座智能工厂的落地,见证着机器人行业智能化的升级,但工业机器人的主要应用场景——传统工业产线并没有发生颠覆性的改变,智能化程度难以满足制造业对“新质生产力”的需求。
    的头像 发表于 01-13 10:08 158次阅读

    凯越翔荣获深圳市“专精特新”企业称号

    在这个日新月异的时代,每一个细微的进步都是推动行业前行的强大动力。
    的头像 发表于 01-07 13:53 116次阅读

    华宝新能推动绿色能源行业发展

    在这个科技日新月异的时代,每一项技术突破都是对未来的深度探索。
    的头像 发表于 12-30 13:50 145次阅读

    珠海中京荣获广东省省级企业技术中心认定

    在科技发展日新月异的今天,企业的技术创新能力成为衡量其核心竞争力的关键指标。
    的头像 发表于 12-24 14:26 307次阅读

    EMC与EMI滤波器:电子设备电磁兼容性的守护者

    在现代电子科技日新月异的今天,电磁兼容性(EMC)和电磁干扰(EMI)问题日益受到关注。
    的头像 发表于 11-08 14:08 282次阅读

    万界星空科技电线电缆行业MES系统功能

    日新月异的科技浪潮中,电线电缆行业作为国民经济的重要支柱,正面临着前所未有的挑战与机遇。在日新月异的科技浪潮中,电线电缆行业作为国民经济的重要支柱,正面临着前所未有的挑战与机遇。
    的头像 发表于 09-20 10:57 267次阅读

    地瓜机器人全新亮相:引领机器人时代&quot;母生态&quot;的革新

    在科技日新月异的今天,每一个细微的创新都可能成为推动行业变革的关键力量。地平线旗下的“地瓜机器人”官方公众号正式揭晓了其历经九年精心打磨的全新面貌,标志着这家企业在机器人领域的深度布局与远大愿景正式启航。
    的头像 发表于 08-21 16:40 1118次阅读

    日本新型人形机器人亮相:迈向高空作业的新纪元

    在科技日新月异的今天,机器人技术正以前所未有的速度改变着我们的生产与生活方式。8月3日,日本机器人创新领域的佼佼者——“人机一体”公司与立命馆大学携手,向公众揭开了一款革命性人形
    的头像 发表于 08-03 16:50 2241次阅读

    元鼎智能再获融资加速,智能庭院机器人布局未来可期

    在智能科技日新月异的今天,专注于智能庭院解决方案的元鼎智能(Aiper)再次传来振奋人心的消息。这家泳池机器人领域的佼佼者,近期成功完成了超6000万美元的B轮及B+轮融资,标志着其在智能庭院机器人市场的布局迈入了一个全新的发展
    的头像 发表于 07-17 15:40 898次阅读

    罗杰·瑞迪:AI能力已远超我们人类

    在科技日新月异的今日,人工智能(AI)正以前所未有的速度重塑着我们的世界,其影响力之深广,已远远超出了最初的想象。2024年世界人工智能大会上,图灵奖得主罗杰·瑞迪的一席话,如同警钟长鸣,他深刻指出
    的头像 发表于 07-05 14:10 374次阅读

    人工智能、机器学习和深度学习是什么

    在科技日新月异的今天,人工智能(Artificial Intelligence, AI)、机器学习(Machine Learning, ML)和深度学习(Deep Learning,
    的头像 发表于 07-03 18:22 1375次阅读

    SolidWorks教育版:丰富的教学资源

    在当今日新月异的工程教育领域中,一款强大的教学工具对于提升学生的学习效果和创新能力至关重要。SolidWorks教育版凭借其丰富的教学资源,不仅满足了教师的教学需求,也为学生提供了一个全面、深入的学习平台。
    的头像 发表于 07-02 16:20 417次阅读

    机器人舵机:关键要素解析与选择指南

    机器人技术日新月异的今天,舵机作为机器人的核心部件之一,扮演着至关重要的角色。它的性能直接关系到机器人的运动控制、稳定性以及精度等方面。那么,在选择和使用
    的头像 发表于 06-06 13:57 1103次阅读
    <b class='flag-5'>机器</b>人舵机:关键要素解析与选择指南

    复合机器人上下料在制造业中的应用

    近年来,机器人技术日新月异,复合机器人作为其中的一种重要类型,正逐渐在各个领域得到广泛应用。
    的头像 发表于 01-28 10:55 1778次阅读