人工智能时代下的伦理道德思考

数字信息技术使几乎任何人、任何时间、任何地点都能轻易获得信息。这对我们社会的各个方面，从工业生产到分配、到商品和服务的消费，都产生了深远的影响。就像之前的技术革命一样，数字信息技术的影响如此广泛，我们不再只是简单地利用它——做我们以前做过的事情——而是通过改变我们的行为方式来适应它。

今天，数字信息技术已经重新定义了人们如何与他人进行社交互动，甚至如何找到伴侣。消费者、生产者和供应商、实业家和劳动者、服务提供者和客户、朋友和合作伙伴之间重新定义的关系，已经在社会上造成一场剧变，正在改变后工业时代对道德理性的定义。

我们正站在下一波科技革命的风口浪尖：人工智能。20世纪晚期的数字革命将信息带到了我们的指尖，让我们能够快速做出决定，而机构做出决定，从根本上说，取决于我们。人工智能正在通过自动化决策过程来改变这一状况，它有望带来更好的定性结果和更高的效率。人工智能游戏系统在击败国际象棋世界冠军卡斯帕罗夫（Gary Kasparov）和围棋世界冠军柯洁（Ke Jie）方面取得的成功，突显出人工智能在计算当前决策对潜在未来棋步的影响方面，在质量方面优于人类专家。

然而，在这个决策过程中，人工智能也带走了人类行为的透明性、可解释性、可预测性、可教性和可审核性，取而代之的是不透明性。这一举动的逻辑不仅不为参与者所知，也不为程序的创造者所知。随着人工智能为我们做出决策，决策的透明度和可预测性可能会成为过去。

想象一下这样的情景：你的孩子回家找你，要求你给她零花钱，让她和朋友一起去看电影。你允许了。一周后，你的另一个孩子带着同样的要求来找你，但这次，你拒绝了。这将立即引起不公平和偏袒的问题。为了避免受到偏袒的指责，你要向孩子解释，她必须完成家庭作业，才有资格获得零花钱。

没有任何解释，家里一定会有紧张的气氛。现在想象一下用一个人工智能系统取代你的角色，这个系统已经收集了成千上万个处于类似情况的家庭的数据。通过研究其他家庭的零花钱决定的后果，得出结论，一个兄弟姐妹应该得到零用钱，而另一个兄弟姐妹不应该。

但人工智能系统无法真正解释其中的原因，只能说它衡量了你孩子的头发颜色、身高、体重以及其他所有它能获得的属性，以便做出对其他家庭似乎最有效的决定。那又怎么会有效呢？

在法庭上，过去的判决约束法官遵循先例，即使情况不完全相同，但大致相似。一致性在司法、政府、关系和道德规范中都很重要。AI没有遵守先例的法律要求。人类往往只有有限的直接或间接经验，而机器可能可以访问大量数据。

人类无法在一个长期的时间尺度内筛选他们的经历，而机器可以很容易地做到这一点。人类会排除那些被认为对决策无关紧要的因素，而机器不会排除任何因素。这可能导致不尊重先例的决定，其规模之大是人类可以理解的。随着企业和社会迅速转向人工智能，人工智能实际上可能比人类在更长的时间范围内做出更好的决策，而人类在更短的时间范围内就会感到困惑和沮丧，并侵蚀一个正常运转的社会的唯一货币，信任。

要理解基于人工智能的决策可能有多人工，研究人类如何做出决策是很重要的。人类的决策可能由一组明确的规则，或者仅仅基于结果论的关联，或者由组合来指导。人类对于与决策相关的信息也是有选择性的。由于缺乏选择性，机器在做决定时可能会考虑人类认为不恰当的因素。

有无数这样的例子，从微软（Microsoft）在其聊天机器人Tay开始在Twitter上发表煽动性反犹太言论后关闭它，到波士顿大学（Boston University）的一项研究，该研究发现“老板”（boss）、“建筑师”（architect）和“金融家”（financier）等词与男性、“护士”（nurse）和“接待员”（接待员）等词与女性之间存在性别关联。这可能是数据造成的，但它与我们的显式值形成了对比。如果数据驱动的过程依赖于这些人工智能算法生成的输出，它们将产生有偏见的决策，往往违背我们的道德价值观。

鉴于人工智能在医疗诊断、金融服务和就业筛查等领域的应用规模之大，任何一个偶然事件的后果都是巨大的。随着算法越来越依赖于提高可预测性的特性，控制这类决策的逻辑变得越来越不可思议。因此，我们失去了决策的全局性，抛弃了所有的原则来支持过去的观察。在某些情况下，这可能是不道德的，在某些情况下是非法的，在某些情况下是短视的。“惯犯算法”公然藐视无罪推定、机会均等等原则。

一致性是道德和正直不可或缺的。我们的决定必须遵循一个高于统计准确性的标准；几个世纪以来，相互信任、减少危害、公平和平等的共同美德已被证明是任何推理系统生存的基本基石。没有内部逻辑的一致性，人工智能系统缺乏健壮性和可问责性——这是在社会中建立信任的两个关键措施。通过在道德情感和逻辑推理之间制造裂痕，数据驱动决策的不可知性阻碍了批判性地参与决策过程的能力。

这是我们生活的新世界，复杂的决定被削减成反射性的选择，并被观察到的结果所强化；把复杂的东西简化成简单的东西，把道德简化成实用的东西。今天，我们的道德感为我们的决策提供了一个框架。也许不久之后，我们的决定就会让人们对我们的道德产生怀疑。