蒙克全球事务学院：人工智能与社会面临的选择风险及机遇

蒙克全球事务学院：人工智能与社会面临的选择、风险和机遇

自两会开始以来，李彦宏、杨元庆、邓中翰等企业家、科学家代表提交了不少与人工智能相关的提案，人工智能成为政府、各产业、学界等人士的关注重点。此前，加拿大-英国学术讨论会（CUKC）于多伦多大学蒙克全球事务与公共政策学院举行，并发布报告《人工智能与社会面临的选择、风险和机遇》，探讨的关键议题包括深度学习的开发和应用，大数据和隐私的影响以及AI在网络防御、安全等领域的应用，并特别关注了AI对劳动力市场和社会不平等的影响，以及AI的伦理问题。

一、加拿大和英国的AI生态体系

加拿大政府专注于四大目标：在基础技术方面持续投入；建立战略性创新基金以吸引商业投资；通过建立AI道德规范和市场框架，培养公众的兴趣和信心；依托G7和G20开展国际合作。2017年，加拿大政府宣布将由加拿大高级研究院（CIFAR）实施一项价值125亿美元的泛加拿大人工智能战略。

加拿大2018年AI生态系统

英国人工智能生态系统有六大实力基础，包括具有领先水平的研究基础；成熟的人才渠道对人才的培养和供给；大量的风险资本投资支持AI创业公司；公共机构致力于人工智能创新；当地用户采纳新技术的兴趣和意愿；针对新兴技术的监管方法。

二、向善的人工智能——伦理、政策和治理

加拿大政府正在调查人工智能等新兴技术对外交政策和全球态势的影响。人工智能和自动化或可反映并加剧社会分裂、人权问题等社会问题。

数据所有权和隐私问题也不容忽视。数据作为一种经济商品，其重要性日益增加，更易成为国内外攻击者目标。鉴于私营部门在该领域的影响力，政府需要与大型科技公司合作。

从地缘政治的角度来看，人工智能正在重塑全球权力结构。各国竞相主导人工智能的研究、商业化、以及规范标准的制定。

就业前景的剧烈变化是进一步采用人工智能和自动化的预期结果。

政策制定者可以从互联网的发展中汲取教训。到2018年底，全球仅一半人口可以上网。由于人工智能和互联网高度集成，因此全球对人工智能的访问也存在不均衡。

互联网用户数据的增长

多样性欠缺，这可能将社会偏见转化为算法偏见。特别值得注意的是计算机科学和人工智能中的女性比例极低。

三、人工智能的法律含义——法规、隐私和道德问题

在透明度方面，要求相关方提供关于自动决策内在逻辑且具有意义的信息。但鉴于不透明度问题，可能难以遵守这一要求：人工智能算法具有内在“黑匣子”性质；公众对算法的不理解；企业有意识地保护商业秘密和知识产权。

在公平方面，歧视关乎差异化，但并不总是消极的。在培训数据集中，很有可能存在中立歧视和法律歧视。但是，编辑数据、删除人员的受保护特征可能会破坏数据集的潜在好处。数据最小化可能与机器学习算法的目标和方法相冲突。

人们认为机器人是危险的，而人类是客观、公平、不偏不倚的。法规通常旨在保护人类免受机器伤害。但事实上，人类不仅表现出偏见，而且这种偏见常常是无意识的。机器学习技术可以识别我们无意识的偏见，并为我们提供改进决策方式的机会。

如何平衡基于原则的方法和基于规则的方法。在事后回顾情况下，基于原则的方法可以很好地识别个体行为者，并提前评估和管理风险。但这在复杂的网络化生态系统（例如自动驾驶车辆）中可能并不可行，许多参与者可以预先自动实施详细规则。

人们对法律程序中使用电子证据存在担忧。当软件可能包含错误，当任何单一结果都依赖于广泛分布的设备上的软件代码，或者无人能够在法庭上对AI决策进行解释，问题变得更加严峻。因此，如果无法在法定程序中测试计算机的可靠性，那么就应当反对其具有可靠性的预先假设。

四、大数据与隐私保护

在认识到大数据和机器学习带来风险的同时，也不应忽视其为日常生活带来的好处。开源数据研究所（Open Data Institute）与企业和政府合作，建立了一个开放、可信的数据生态系统。社会必须投入高质量、标准化的数据，使其对创新和决策而言是可靠、有用的。

公开购买和同意原则至关重要。应当使用清晰、通俗的语言讨论数据所有权和数据访问。开源数据研究所提出一个简单的分类系统，如图所示，数据在图中所处的频谱位置决定其获得何种许可。

数据频谱

五、人工智能与劳动力——自动化、就业和效率

英国政府试图对人工智能应用进行管理，促进一个人工智能驱动的未来。例如，在能源、医疗、食品、农业领域的人工智能能够驱动25%的生产率。人工智能应用领先的国家可能成为21世纪的经济主导者。因此，英国需要考虑采取相关措施，包括：建立人工智能办公室、建立数据伦理与创新中心、建立人工智能委员会。这些机构将给政府提供专业人士，发现机遇和挑战，并且提出政策和监管建议。