机器人三定律的介绍

　　如何阻止机器人伤害人？现在的许多机器人，比如在工厂里组装汽车的机械臂，当人类靠近时，它们会马上停机。但这种机制在某些地方并不适用，比如需要快速移动来避免碰撞的无人驾驶汽车，或者需要扶起摔倒老人的护理机器人。随着机器人技术的快速发展，它们将成为我们的仆人、伴侣还有同事，我们需要应对日益复杂的形势，将会面临更多的道德和安全问题。

　　科幻已经设想了这个问题，并提出了各种潜在的解决方案，其中最著名的是Isaac Asimov的机器人三定律，旨在防止机器人伤害人类。但现实表明，机器人三定律在很多时候并不管用，从2005年开始，我和赫特福德大学的同时一直在研究一个可替代的解决方案。

　　我们认为，规则不应该限制机器人的行为，而应该赋予机器人更大的自主性，让他们在任何场合都能合理选择最佳解决方案。正如我们在Frontiers上发表的一篇新论文描述的那样，这一原则可以构成一套新的机器人普遍指导原则，以尽可能地保护人类的安全。

　　机器人三定律

　　阿西莫夫的机器人三定律是这样描述的：

　　• 机器人不能伤害人类，也不能明知人类受伤害而袖手旁观；

　　• 机器人必须服务人类的命令，除非这些命令与第一定律相冲突；

　　• 在不违反第一、第二定律的前提下，机器人应保证自身安全。

　　这些规则听起来似乎很合理，但无数的事实证明他们仍存在很多不足。阿西莫夫的小说可以说是最好的反证，它们证明在很多情况下机器人三定律都是不起作用的。大多数新起草的规则都遵循类似的原则以构建更安全、合规而稳定的机器人。

　　所有制定出来的机器人指南都存在一个问题，那就是如何转化为机器人可以执行的格式。理解人类的所有语言以及它所代表的经验，对机器人来说是非常困难的事情。广义的行为目标，比如不得伤害人类，或保护机器人的安全，在不同的情况下可能意味着不同的内容。遵守这些规则，最终可能让机器人束手无策，并不能达成创造者的目的。

　　我们的另一个概念，授权代表的是无助的反面。被授权意味着有能力该表状况，并意识到你可以。我们一直在研究如何将这种社会概念转化为可量化和可操作的技术语言。这将给机器人带来启发，以保持他们的选择开放，并采取行动，增强他们对世界的影响力。

　　当我们尝试在各种场景中模拟机器人如何使用授权原则时，我们发现他们通常会以惊人的“自然”方式行事。通常只需要他们来模拟现实世界的工作原理，但不需要专门的人工智能编程来处理特定的场景。

　　但是为了保护人们的安全，机器人需要努力维护或改善人类授权以及自己的能力。这基本上意味着保护和支持。为某人打开一扇锁好的门将增加他们的授权。限制他们将导致授权短期丧失。严重伤害可以彻底取消他们的授权。同时，机器人必须努力保持自己的授权，例如确保它具有足够的操作能力，并且不会卡住或损坏。