人工智能系统有巨大的潜力有和益方面

从黑箱看 AI 人工智能在帮助人类的同时创造了可怕的危机

人工智能是这几年的热词，人工智能系统有巨大的潜力，但它们的性能也取决于它们的数据。随着机器学习渗透到我们生活的各个领域，比如医疗、自动驾驶、执法等等，但是如果不对人工智能加以规范平衡利弊，那么人工智能技术将弊大于利。

偏颇的数据导致不准确的结果

人工智能存在偏见的问题是最近比较困扰的一个问题，也是确实存在的一个问题，麻省理工学院(MIT)的研究员Joy Buolamwini曾亲身体验过，结果发现人工智能识别浅色皮肤同事的面孔比识别自己的面孔更轻松。在此之后，她就开始了一项研究，以查明该软件在识别她的特定特征方面是否存在一些问题，或者是存在于人工智能中的更广泛的问题。

Joy Buolamwini测试了IBM、微软和中国公司Face++的系统，向这些系统展示了1000张脸，并要求其识别受试者的性别，是男性还是女性。她发现，所有这些系统识别男性面孔的准确度明显优于女性面孔，识别浅色面孔也比深色面孔表现得更好。现在随着面部识别越来越融入日常生活，面孔识别被应用于安全、医疗诊断应用和寻找失踪者等方面，但研究的结果显示，肤色较深的人和女性处于劣势。

针对这些，麻省理工学院(MIT)的研究人员正在研究一种算法，可以通过发现隐藏的偏倚并对数据重新采样。在测试中，该算法的应用有效地降低了人工智能面部识别的种族歧视，减少了分类偏见的出现，但在不降低总体准确率的情况下，预计减少了60%以上。

英特尔AI开发者大会，AI DevCon (AIDC)主要为机器学习提供平台，来自世界各地的公司利用英特尔机器学习平台造福社会，应用于医疗和物理研究领域。英特尔主要为机器学习提供平台，而不是开发应用程序，英特尔也很清楚自己工作的规范伦理，所以它旨在开发和分享人工智能，目标是让人工智能变得安全、可信、公平、透明和负责任，并为社会服务。

在AIDC的演讲间隙，英特尔技术计算、分析和人工智能总监Stephan Gillich接受采访时表示，“为了学习算法，你需要有准确的数据，如果你没有广泛且具有代表性的数据，那么就不会起作用。”因此，从人工智能的角度来看，这番话的意思就是，公司的数据应该尽可能准确无偏倚。

人工智能的有益方面

英特尔还在与一些合作伙伴合作，展示机器学习在使用高质量数据并经过仔细定位的情况下的优点。在其中一个项目中，英特尔与环保组织Parley For the Oceans合作开发了一种无人机系统，可以在不干扰鲸鱼健康的情况下评估它们的健康状况。Stephan Gillich解释说，“鲸鱼可以通过拍照来识别，就像指纹，拍照之后就不需要再给这些鲸鱼贴上标签了。这些鲸鱼就拥有自己的标签了。

他们过去的做法是向鲸鱼体内注射一些东西。虽然对鲸鱼是无害的，但操作起来很困难。所以他们找到了一种方法，趁在鲸鱼水面上喷水的时候采集样本，然后利用人工智能对它们进行分析，使用AI来做图像识别。由此就产生了一个系统，Parley SnotBot，可以在不惊扰到它们的情况下，实时提供鲸鱼的健康数据。

另一个特别项目涉及保护非洲象，使其不受偷猎者的杀害。目前，非洲森林象的数量可能会在未来10年内被偷猎象牙的偷猎者灭绝殆尽，但非洲象的栖息地面积巨大，护林员不可能保护所有这些大象。塞伦盖蒂国家公园(Serengeti National Park)只有150名护林员，而他们要巡逻的面积大约相当于比利时的国土面积。

Stephan Gillich说，“这些都是偏远地区，不可能到处都安排上人，因为那样也会干扰野生动物，而且这也根本不可能，所以我们一直在研究如何解决这个问题”。为了帮助解决这个问题，英特尔与环保组织Resolve合作开发了一个名为TrailGuard的系统，该系统搭配了一种小到可以藏在灌木丛中的低功耗智能相机。

摄像机会被动作激活，这时人工智能会分析录像以识别运动物体是动物、人还是车辆。如果一个人被识别到在一个通常只有动物居住的地方，很有可能他们是偷猎者，所以公园的管理员会对这些人和车辆保持警惕。将TrailGuard摄像机捕捉到的每一帧画面发送到总部或云服务器是相当麻烦的一件事，而且管理员自己监视这么多视频也是不切实际的，所以运行在摄像机上的神经网络实时分析每一帧画面，丢弃那些没有活动或者只有动物的画面，将那些有人类的画面发送给公园管理员，这个方法大大减少了工作量。

TrailGuard项目取得了相当的成功，公园管理员依靠这个系统能够在动物受到伤害之前进行干预并捕获偷猎者，保护了濒危动物的安全。Stephan Gillich表示，“人工智能能提供一种创新方式，现在有很多的数据，公司可以处理和收集大量的数据，程序员可以进行函数式编程，这就是我们所说的人工智能。”因此，人工智能可以以一种比以前更有效的方式去帮助人类。