对话MIT人工智能实验室主任：AI不是双刃剑，都是人类惹的祸

对话MIT人工智能实验室主任：AI不是双刃剑，都是人类惹的祸

随着机器学习与人工智能技术的发展，如今，越来越多的公司、个人开始利用 AI 技术，为未来下着重要“赌注”。但是，人一旦动了歪脑筋，AI 也可能会作恶，如何好好利用技术这把双刃剑，是我们最为关注的。

5 月 25 日，由学教育-松鼠 AI、IEEE 教育工程和自适应教育标准工作组、中国自动化学会、新东方、好未来等共同举办了第三届 AIAED 人工智能智适应教育峰会。在会上，来自麻省理工学院（以下称 MIT）计算机科学与人工智能实验室主任 Daniela Rus 发表了相关主题演讲。

她在演讲中表示，人类需要找到真正产生影响的资源，影响科技改变世界的方式，而这是 21 世纪当中最为重要的课题。

对于未来人工智能技术与算法的发展，她认为人类需要谨慎、仔细地看待。

Daniela Rus 是机器人领域的权威专家，MIT 计算机科学和人工智能实验室（CSAIL）主任，曾经一手创办了达特茅斯学院机器人实验室。DeepTech 和麻省理工科技评论曾报道的“抓取式”软体机器人、折纸机器人等重要论文与技术成就，都是由 Daniela Rus 和她的团队一起研发的。

在 AIAED 大会上，Daniela Rus 对目前 AI 与机器人领域的技术前景进行了评估，并表示乐观，她认为这当中充满机遇。

“大家想象一下，有一天我们日常生活的所有任务都由机器人来代替了，无人机把食物送到门口，垃圾能够自动被回收。想象一下这些智能系统使得生活的方方面面都自动化，保证我们生活得很好，工作更加高效。”她非常兴奋地说。

其实，这种场景已经在逐步实现中。早前外媒曾报道，美国乔治梅森大学（George Mason Uniersity，简称GMU）打造了全球规模最大的校园机器人送餐服务。送餐机器人在路上行走，可以将食物送到指定位置，学生自主取出热腾腾的食物。

图 | 送餐机器人，

与此同时，亚马逊、京东、阿里巴巴等电商巨头，也在不断尝试通过无人机等多种方式，将物品送到用户手中。所以，时代在不断发展，而人类正在享受着技术带来的便捷与美好。

但大众也要意识到，技术是中立的，最终的结果取决于控制技术的人。若数据与算力存在很大的偏差，可能会造成难以想象的惨烈后果。

Daniela Rus 对此感到担忧，她表示，虽然 AI 有诸多优势，但是要警惕人类“抄近道”，该弄的东西没有弄，欺骗技术与系统，造成很大的困扰。同时她又指出，这一切其实跟 AI 技术的关系并不大，而是与人类的控制有关。

人类需要善于利用技术上的优势。人做人最擅长的事情，机器做机器最擅长的事情，“耍小聪明”不是正经之道。

在 AIAED 大会后，Daniela Rus 教授接受了 DeepTech 的采访，聊了聊目前人工智能技术难点以及未来她想研究的机器人是哪种类型等。以下是采访实录整理：

中美在AI领域各有千秋

DeepTech：中国和国外在 AI 技术与人才方面还存在哪些差异？中国的 AI 兴起还有什么创新的机会？

Daniela Rus：你可能看过李开复的《AI未来》，讲到中国有一定的优势，比如中国的数据采集量比较大，使得中国有更多的 AI 技术空间可以发挥。但从 AI 人才教育的角度来说，中国相对还比较僵化，应试教育的氛围较为浓厚，小孩可能更重视考上哪个大学；美国则相对更灵活一些，更想着我要去解决什么样的问题。

中国从教育体制，包括从学生对 AI 的态度来说，可能还是有一些地方需要改善。但总的来说，中美 AI 技术人才与研究能力都是非常强大的，各有千秋，中国在这一领域还是有许多发展空间的。

技术难点与解决方案

问：AI 技术研究中有遇到什么困难吗？

Daniela Rus：以前，我们想象中的机器人可能都是金属的、塑料的，或者长得像人，或者像人一样动作。但实际上，当我从事这项工作的时候，从一位制造机器人的研究者角度看，机器人可能有不同的形状，也可以有不同的功能，可能是木头做的，也可能是布、纸做的，或者可以用食物做机器人。

用那些东西做成机器人，人可以把机器人吃到肚子里，在肚子里面工作，工作完了就消化掉了。所以，在技术研究中，更多要考虑的是理想与实际之间的应用关系。

问：在研究机器人技术的时候，有哪些挑战值得和我们一起分享？

Daniela Rus：三个很重要的挑战，第一个，如何制作大脑，机器人怎么思考，怎么找到问题解决方案；第二个，怎么制造机器人的语言；第三个，人机交互。

第一个，大脑。机器人的思考过程与人类不太一样，运行环境并没有那么多样化。但在机器人实际应用中，复杂的环境挑战，无法在实验室中进行提前预知问题的解决方案，机器人的大脑在推理、思考、认知上都具有很大的挑战。

第二个，制造机器人的语言化。机器人本身第一语言还是非常底层的语言，所以彼此做一个东西，需要相当长的开发时间来做底层的语言。另外，制作本身还是没有一个非常容易的东西。

第三个，人机交互。怎么能够了解人的反应，这本身还是很有挑战的。

问：人工智能的计算结果常常是随机的，不可解释的，如何解决这个问题？

Daniela Rus：我们已经有了许多方法来解决此类问题，比如刚才提到的神经网络。目前来说，神经网络还是有很多黑盒子过程，我们无法直接解释，也无法从数据角度给出一个解决方案，这实际是人工智能的一个很大的课题。

但是从某种角度来说，这也是一个必然的过程。从人工智能领域来说，打破黑盒子，解释并给出解决方案，是一个探索过程。另外，刚才也谈到，现在数据量很大，如果一个神经网络有特别多的节点，本身的复杂性就会非常高。现在有些方法可以把节点压缩，把复杂的内容压缩到相对简单，比如说从 200 万压缩到 20 个节点等方式。

问：AI 是一把双刃剑，在数据和算力之间存在一定偏差，在某种场景，AI 也存在一定的危险性。那么，AI 技术在教育领域下会发生哪些的极端情形？

Daniela Rus：我们一直听到，AI 的优势是什么，能够带来多少收益等正向的话题。当然，人有无限可能，人类可能会采取作弊、欺骗等态度，也就是所谓“抄近道”，该弄的东西没有弄，欺骗系统与技术。

这种情形是一定存在的，但实际上骗的是自己，最后呈现出的恶果并不是 AI 的问题，而是人类最终自食其果，搞垮罢了。

问：数据、算法的歧视问题，怎么能做到尽可能“数字公平”？

Daniela Rus：现在大家对算法歧视问题表示关心，这是很正常的，大众确实有这样那样的顾虑，我认为，这也是研究人员亟待解决的一个问题。

今年，我的项目组里出了不同的论文，但话题都是一致的，就是怎么解决机器学习里面产生的偏见。我们知道，面部识别出现过很多问题，就是所谓偏见性的东西。目前来看，解决此问题的办法，仍是深度研究。

问：AI 需要很多数据，欧洲很多国家都会觉得太侵犯隐私了，会有一些阻力。你如何判断 AI 技术对隐私的保护产生冲突问题？

Daniela Rus：这个可能还是更容易一些，因为很多事情是双刃剑。

谈未来研究方向

问：你觉得在分布式机器人领域会有哪些发展，它的趋势是什么？

Daniela Rus：未来我们的生活环境里会有很多机器人，这种情况下一定是分布式的，互相有协调问题。

比如：自动驾驶汽车，每一辆自动驾驶汽车都相当于一个机器人，它们互相之间的协调，在实际道路环境中能不能通过监测的方式，互相感知，了解相互位置，并互相协调。

问：您的下一步研究方向是什么？

Daniela Rus：聚焦机器人研究的几大方面，第一个是不同形状、不同材料的机器人；第二个，把一个人有目标性的想法，直接转化成机器能够执行的命令、语句；第三个，机器人更像人，会穿衣服，这样很好看，将机器人变得更加时尚。

问：当机器人取代人类的功能时，会产生什么影响？

Daniela Rus：其实现在没有必要担忧取代的事情，首先人工智能还没有真正达到“人类智能”，还差得特别远。

另外，其实现在我们看到机器人所替代的事情，更多是可以预见的，辅助性质大于取代性质的。比如，理疗师按摩要 30 分钟，结果使用机器人方式，花 10 分钟就结束了。

其实，重复性很强的东西，可以用机器人替代，这些都是可预见的，并没有真正的智能在里面。所以，机器人取代不了人类，还差的非常远。