0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

清华人工智能研究院院长张钹:从“让数据说话”到引入知识

倩倩 来源:澎湃新闻 2020-01-15 10:41 次阅读

“常常有比喻说,钥匙并不丢在这个地方,大家为什么都在这个地方找钥匙呢?因为这个地方灯亮看得见。真正的钥匙丢在黑暗的角落里,那里不好找,一时半会写不了文章,所以好多人不愿意去找。”

近日,中国科学院院士、清华大学人工智能研究院院长张钹在一次学术活动中阐述深度学习方法易受欺骗、易受攻击的根本原因。他提出,根本解决办法并不在“灯亮看得见”的深度学习模型的修修补补上,而应该向人类学习。学习的内容包括,一、改变深度学习网络的模型与结构;二、在数据驱动的基础上引进知识。

张钹,清华大学计算机系教授,中国科学院院士,1958年毕业于清华大学自动控制系。他参与人工智能、人工神经网络机器学习等理论研究,以及这些理论应用于模式识别、知识工程与机器人等技术研究。

清华大学人工智能研究院院长张钹

从“让数据说话”到引入知识

数据、算法、算力通常被认为是深度学习时代驱动人工智能崛起的三大因素。

但张钹认为,知识与这三者同样重要,共同组成人工智能的四大基础。“回顾人工智能的历史,可以看到这四个因素不断地发挥作用。”

1月11日,张钹在清华-中国工程院知识智能联合研究中心年会暨认知智能高峰论坛上提出上述观点。

张钹介绍,第一代人工智能即符号主义主导的人工智能时代强调知识对智能的作用,由于当时受算法和算力的限制,知识表示依赖人工编程,因而以知识为基础的推理模型没有得到大量推广。

深度学习兴起之后,学界将目标转移至数据,提出“让数据说话”。张钹认为,这种强调对深度学习的发展起到积极的作用,但也有“很大的不足”:过分强调数量的重要性,片面认为“质量差没关系,数据多就可以解决问题”。

“这导致按照大数据建起来的人工智能系统面临不可信、不可靠、不安全、不易推广的挑战”。

在他看来,解决这个挑战的办法之一是引入知识。

“这也是我们人工智能研究院所提倡的第三代人工智能的道路——通过数据驱动和知识驱动的结合克服第一代和第二代人工智能的不足。

“钥匙丢在黑暗的角落里”

深度学习应用于模式识别虽然可以在大数据的训练中学到正确的分类,却很容易受到恶意干扰、欺骗和攻击。将狮子识别为图书馆、把雪山认作一只狗、停止标志识别被当成限速标志……此类深度学习系统被“忽悠”的案例层出不穷,如果发生在自动驾驶场景,就可能产生严重后果。

面对深度学习的脆弱性,单纯从深度学习网络上修修补补只能治标,不能治本。

张钹在回答现场观众提问时表示,“深度学习不能提取出语义层面的特征,只能提取底层特征,这是它脆弱、易受攻击的根本原因。如果不解决这个问题,只靠修修补补,不能根本解决问题,现在的很多做法就是如此。”

如何根本解决深度学习存在的问题?

张钹认为,有两个工作可以做:一是学习人类神经网络的结构,结合脑科学以改进深度学习模型,二是将知识驱动与数据驱动结合起来。“前者涉及学科交叉更难一点,搞计算机的大多数选择后一条路”。

走第二条路的关键问题是如何从原始数据中自动提取知识。“这一直做不好,因为知识很难自动获取,需要依赖人工,单纯依赖人工是走不远的”。他鼓励人工智能研究者重点在知识获取方面做工作,“如果这个问题解决了,很多问题将迎刃而解。”

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    210

    文章

    28190

    浏览量

    206463
  • 神经网络
    +关注

    关注

    42

    文章

    4762

    浏览量

    100526
  • 机器学习
    +关注

    关注

    66

    文章

    8375

    浏览量

    132398
收藏 人收藏

    评论

    相关推荐

    博世与清华大学续签人工智能研究合作协议

    近日,博世与清华大学宣布,双方续签人工智能领域的研究合作协议,为期五年。在此期间,博世将投入5000万元人民币。基于2020年成立的清华大学—博世机器学习联合
    的头像 发表于 11-20 11:37 210次阅读

    嵌入式和人工智能究竟是什么关系?

    人工智能应用的实时响应。与此同时,嵌入式系统在边缘计算和物联网领域,也为人工智能的应用提供了广阔的空间。 在边缘计算中,嵌入式系统能够将人工智能算法部署设备端,实现对
    发表于 11-14 16:39

    陈天桥雒芊芊脑科学研究院人工智能领域取得重大突破

    陈天桥雒芊芊脑科学研究院(TCCI)的人工智能团队,凭借其在大脑与记忆领域的深厚造诣,于人工智能界取得了突破性进展。其自主研发的OMNE多智能体框架,在由Meta AI、Hugging
    的头像 发表于 11-01 11:11 413次阅读

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    驱动科学创新》的第6章为我提供了宝贵的知识和见解,我对人工智能在能源科学中的应用有了更深入的认识。通过阅读这一章,我更加坚信人工智能在未来能源科学领域中的重要地位和作用。同时,我也意
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    阅读这一章后,我深感人工智能与生命科学的结合正引领着一场前所未有的科学革命,以下是我个人的读后感: 1. 技术革新与生命科学进步 这一章详细阐述了人工智能如何通过其强大的数据处理和分析能力,加速生命科学
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第二章AI for Science的技术支撑学习心得

    人工智能在科学研究中的核心技术,包括机器学习、深度学习、神经网络等。这些技术构成了AI for Science的基石,使得AI能够处理和分析复杂的数据集,从而发现隐藏在数据中的模式和规
    发表于 10-14 09:16

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    。 5. 展望未来 最后,第一章我对人工智能驱动的科学创新未来充满了期待。随着技术的不断进步和应用场景的拓展,AI将在更多领域发挥关键作用,基础科学到应用科学,理论
    发表于 10-14 09:12

    中国电信人工智能研究院完成首个全国产化万卡万参大模型训练

    近日,中国电信人工智能研究院宣布了一项重大技术突破:成功完成国内首个基于全国产化万卡集群训练的万亿参数大模型。
    的头像 发表于 09-30 16:41 1632次阅读

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    大力发展AI for Science的原因。 第2章科学研究底层的理论模式与主要困境,以及人工智能三要素(数据、算法、算力)出发,对AI for Science的技术支撑进行解读。
    发表于 09-09 13:54

    2024年芯片行业有多难?用数据说话

    2024年芯片行业有多难?用数据说话
    的头像 发表于 08-10 18:20 3303次阅读

    智平方打通具身智能核心痛点:将AGI拓展物理世界

    ,中国科学院院士、清华大学人工智能研究院名誉院长,百川智能创始人兼CEO王小川,易显
    的头像 发表于 07-25 17:06 449次阅读
    智平方打通具身<b class='flag-5'>智能</b>核心痛点:将AGI拓展<b class='flag-5'>到</b>物理世界

    燧原科技与中国电子信息产业发展研究院签署战略合作协议

          2024世界人工智能大会期间,中国电子信息产业发展研究院(以下简称赛迪研究院院长、党委副书记张立带队调研燧原科技,并与公司创始人、董事长、 CEO 赵立东分别代表双方签署
    的头像 发表于 07-09 16:30 1141次阅读

    易华录无锡数据湖与清华大学苏州汽车研究院(吴江)合作挖掘智能驾驶数据新价值

    6月15日,易华录无锡数据湖与清华大学苏州汽车研究院(吴江)数字工业中心就“聚焦汽车智能驾驶领域,共同挖掘智驾数据新价值”举行了签约仪式。
    的头像 发表于 06-18 15:00 876次阅读

    华为战略研究院院长周红:面向智能时代的思考和展望

    4月17日,华为分析师大会在深圳举办。华为战略研究院院长周红发表了题为《面向智能时代的思考和展望》的主题演讲。
    的头像 发表于 04-18 09:38 1091次阅读
    华为战略<b class='flag-5'>研究院</b><b class='flag-5'>院长</b>周红:面向<b class='flag-5'>智能</b>时代的思考和展望

    亚勤院士:无人驾驶两年内或将迎来“ChatGPT时刻”

    3月22日,中国工程院士、清华大学智能产业研究院(AIR)院长亚勤受邀参加了央视对话节目《鲁
    的头像 发表于 04-09 14:51 513次阅读