人工智能带来的五个奇点详解（规范/经典理论/经济/社会形态/技术）

人工智能的兴起，引发了前所未有的科技革命和产业革命，既造就了空前的历史机遇，也带来了颠覆式的风险和挑战。未来几十年，世界将面临千年未有之变局。构成这个变局的是人工智能可能带来的五个奇点，即规范奇点、经典理论奇点、经济奇点、社会形态奇点和技术奇点。它们既是重大理论问题也是重大现实问题。正视奇点的来临及其重大影响，继而采取必要的措施，是人类社会驾驭这个重大变局的唯一出路。

一、人工智能：即将改变世界

人工智能是信息革命的最新成果，也代表了信息科学的最高水平。特别是在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术以及经济社会强烈需求的共同驱动下，引发了今天的第三次人工智能的发展浪潮。人工智能加速发展，呈现出深度学习、跨界融合、人机协同、群智开放、自主操控的新特征，也被称为新一代人工智能。

从现实技术来看，可以把人工智能分为三个层次，首先是计算智能，在该领域计算机早已超过人类；其次是感知智能，就是让计算机具备视觉、听觉等，也取得了重大突破；再次是认知智能，目标是让机器掌握人类的语言和知识体系并真正理解其内在逻辑，这方面才刚刚开始。从计算智能到感知智能是人工智能走向成熟的标志，从感知智能到认知智能则将是质的飞跃。

从技术发展的大跨度轨迹来看，科技界通常把人工智能分为三个阶段：第一阶段是弱人工智能，就是机器在某个专门领域可能比人类强，但整体智能还不能与人类比拟；第二阶段是强人工智能，就是机器的智能在综合和整体上达到人类的水平，能够与人类相匹敌；第三阶段是超级人工智能，就是机器的智能彻底超越人类，并将完全摆脱人类的控制。实际上，目前所有的人工智能技术，包括计算智能、感知智能和认知智能，不管多先进，都仍然属于弱人工智能，只能在某一个专门领域超过人类或与人类相当，而还不能从整体上超越人类。

近年来，人工智能方面的科技创新风起云涌、日新月异，甚至呈现井喷式的发展。2016和2017年，谷歌研发的AlphaGo相继战胜了世界职业围棋最高段位选手李世石和柯洁。在此之前，人们普遍认为，在围棋比赛上，机器永远不可能战胜人类，因为围棋是棋类比赛中最为复杂和变幻莫测的，也因为在人们心中围棋是人类艺术、思维和尊严的最后一道防线。此外，百度所开发的强大的新型语音识别引擎，其在汉语普通话的口语识别的准确度上达到了十分惊人的程度，甚至比人为识别更加准确，与此相关的语音接口技术因此被《麻省理工科技评论》评为2016年10大全球突破性技术。[1]而中国的Face++(旷视科技)人脸识别技术的准确率在LFW国际公开测试中达到世界最高的99.5%（超过了人类肉眼识别的准确率97.52%），与此相关的刷脸支付被《麻省理工科技评论》评为2017年10大全球突破性技术。[2]据2017年12月6日的科技日报报道，谷歌的人工智能（AI）系统已经能发明自己的加密算法，还能生成自己的子AI。不仅如此，经过严密测试，这个由AI创造的“子AI”居然能够打败人类创造的AI。这说明，人工智能达到一定阶段就能够自行设计和创造更高级的智能系统，实现自我进化。

人工智能正在引发一场新的科技和产业革命。比如，智能机器人技术开发进入爆发阶段，智能化程度越来越高，应用范围得到了极大的扩展。正如美国国家情报委员会在《全球趋势2030：变换的世界》报告中所言：“当今，机器人技术应用于许多民用和军用领域。机器人系统的表现日益趋同于人类行为，这种表现可通过编程或远程操作而自动运行。机器人有比人类更完美的感官系统和机械能力，在执行常规任务时很理想。”而且“美军有成千上万个机器人奋战在战场”[3]。此外，无人驾驶、无人飞行、智能医疗、智能家居、智能投顾、虚拟现实和增强现实等新技术新产业新应用也突飞猛进，正在全方位地改变着世界。

人工智能作为新一轮科技革命和产业革命的核心驱动力，正在强有力地重构生产、交换、分配、消费等经济活动各环节，必将对生产力、生产关系、经济基础和上层建筑产生重大影响，必将对政治、经济、社会、文化生活产生重大影响，必将对国家实力、世界格局乃至人类命运产生重大影响。有研究机构宣称，人工智能所带来的转变比工业革命“发生的速度快10倍，规模大300倍，影响几乎大3000倍”[4]。

关于人工智能技术的未来发展前景，目前主要有两种猜想。一种观点认为，人工智能在根本意义上终究只是对人类思维的模拟，看起来像是智能并不意味着机器会拥有自主意识，因此，人工智能不可能超越人类智能水平，只能是辅助人类的机器工具。

但是，另外一种观点则坚持认为，人工智能不可能锁死在人类智力水平上，与人类智能水平并驾齐驱的强人工智能终将到来，这一时刻就是所谓的技术“奇点”。有学者预测，这个奇点时刻应该在21世纪中叶到来。[5]强人工智能实现之后，智能机器开始摆脱人类控制，开始自我进化，这种进化不是温和的，而是爆炸式的，迅速的智能大爆发往往发生在非常短的时间内，比如几分钟、几小时或者几天，人工智能将很快超越人类智能，超级智能正式降临人间，那时，人工智能开始彻底摆脱人类的控制，人类社会将进入超级智能控制一切的时代。比如著名理论物理学家霍金就反复告诫世人：“在我的一生中，我见证了社会深刻的变化。其中最深刻的，同时也是对人类影响与日俱增的变化，是人工智能的崛起。简单来说，我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。”“人工智能的成功有可能是人类文明史上最大的事件。但是人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险。”[6]与霍金持有同类观点的还有：被誉为21世纪最伟大的未来学家、奇点大学校长、《奇点临近》作者、谷歌工程总监雷·库兹韦尔；因《人类简史》和《未来简史》而享誉世界的著名学者尤瓦尔·赫拉利；著名思想家、牛津大学未来研究院院长尼克·波斯特洛姆；著名科技企业家日本软银集团的创始人孙正义和美国特斯拉公司创始人埃隆·马斯克等等。由于这些人显赫的身份背景、令人钦佩的学术和思想造诣以及对科学技术和未来世界的远见卓识，他们的深沉忧患绝非危言耸听，更非杞人忧天，在我们欢呼人工智能造福人类社会的同时，还应当认真地思考，人工智能除了会给我们带来美丽新世界之外，还会给我们带来什么，是福音，亦或是梦魇？

总之，人工智能是一场滚滚而来的深刻的科技革命，它的发展不可限量甚至难以预估，它已经和正在迅速地改变我们的思想和现实世界。在未来10年，它可能会给人类带来百年不遇的变革；在未来30年，它可能会给人类带来千年不遇的大变革；而对50年后，这个世界将会变成什么样子，我们今天一无所知，那时，正如尤瓦尔所断言的，也许整个人类将面临自地球有生命以来的40亿年中第一次出现的一个最为重大的变局，而且是人类面临的最后一个世界。

人类未来，因为人工智能将会怎样？这既是个重大的理论问题，也是个重大的现实问题。因此，当下，在抓住科技革命的机遇，大力发展人工智能的同时，我们应当十分清醒而理智地思考人工智能可能给我们带来的风险和挑战，并采取正确的应对措施，这一点，毋庸置疑，也是人工智能最终能够造福人类社会的前提条件。

二、人工智能“奇点”或者来临：风险与挑战

近年来，随着科学技术的迅猛发展，“奇点”这个概念得到了越来越多的严肃的学术讨论。物理学中的奇点指的是在时间或空间的某一点上，出现了类似黑洞或者宇宙大爆炸的情况，数学已经不再适用，人类也无法理解。人类历史中出现的奇点则指的是由于技术的迅速发展，人类社会中的一切都出现了改变，生活在今天的我们将无法理解。今天被我们当做理所当然的一切（经济、社会、法律、伦理等等）会改变形态，甚至人类最根本的价值观也会被淘汰。许多学者认为，当前人类历史的发展阶段距离奇点已越来越近。有些观点或许过于惊世骇俗，但不管这些奇点是否真的临近，这些问题却都值得我们思考，因为日益显著的变化已经或正在不断发生。本文则是在最宽泛的意义上来使用奇点这个感念。

1.人工智能给我们带来的一个现实挑战就是“规范奇点”已然来临——人工智能不可阻挡地突破人类既有的法律和道德规范。2016年5月7日，美国佛罗里达州发生自动驾驶汽车撞车事故。美国国家公路安全管理局最终得出调查结果，汽车的自动驾驶模式设计并无明显缺陷，但对于自动驾驶事故的法律责任如何界定，也没能给出明确的回答。在2017年7月5日的百度AI开发者大会上，百度创始人、董事长兼首席执行官李彦宏通过视频直播展示了一段自己乘坐公司研发的无人驾驶汽车的情景，视频中驾驶座位没有驾驶员。对此，北京市交管部门已介入调查，同时声称公安交管部门支持无人驾驶技术创新，但应当合法、安全、科学进行。目前，我国还没有对自动驾驶行为作出法律规定。这两个标志性案例引起社会各界的热烈讨论，焦点是无人驾驶的正当性与合法性，问题本质上是自动驾驶行为的主体定位和法律归责。因为，如今的机器人已经具有自主性和认知特征，具有从经历中学习并独立自主地作出判断的能力，而且可以实质性调整其行为。如果机器人自主地作出决策，传统的责任归责制度就难以解决机器人的责任问题，因为传统的法律将可能不能确定责任方并让其作出赔偿。机器人的自主性越强，就越难将其当成是其他主体（比如制造商、所有人、使用者等）手中的简单工具，这反过来使得既有的规则开始变得不足，因而需要新的规则。最终，法律需要对机器人的本质问题作出回应，其是否应当被当成是自然人、法人、动物抑或物，或者法律应当为其创设新类型的法律主体，在权利、义务、责任承担等方面具有其自身的特性和内涵。

近期，美国一家公司生产的超仿真机器人Sophia在电视节目上与人类对答如流，成为“网红”机器人。对话中，Sophia流露出的喜悦、惊奇、厌恶等表情真实得令人赞叹。就是这个机器人，不但获得了沙特的国籍，而且被联合国开发计划署亚太局任命为有史以来第一位“非人类”创新大使，这个创新大使随后在联合国还发表了就职演讲，引起轰动。而这类机器人正越来越多地被设计和制造出来。这可能会面临两个问题，一是，随着人工智能越来越像人，人类对机器有了感情怎么办？比如，老年人或者残障人士，对专门协助他们生活的服务型机器人，久而久之会产生某种依赖甚至类似于人与人之间的依恋，如果产生这种感情，甚至类似夫妻、父女等感情，会导致机器人“人格”的出现吗？另据人民网报道，美国一家公司近期宣布，将推出历史上第一款智能伴侣机器人，其目标是帮助那些“在与他人建立亲密关系上遇到困难的人们”。如果出现伴侣机器人对人类的普遍替代，必将对人类社会绵延几千年的家庭、爱情、性乃至建立在这个基础上的整个人类伦理道德规范产生巨大的冲击。第二个问题是，随着人工智能的不断发展完善，将来是否有可能诞生出情感智能，这种情感智能不仅能理解人类的感情，而且它本身就具有情感。情感智能的问世又会将人类社会带向何方？

此外，“机器人写诗词”“电脑作曲”也已成真，而且达到了与人类作品难分伯仲的水平，现在问题是，机器人创作的作品是否有知识产权，是否应得到人类的保护和尊重？当前，无人飞行技术日益成熟，越来越多的无人机冲向蓝天，现在问题是，还没有法律法规对此加以规范，日益混乱的无人飞行会造成空域秩序的严重破坏，甚至酿成严重事故，而制定这方面的法律规则肯定会遇到一系列新的复杂问题。同时，我们不能忽视了人工智能犯罪问题，一是作为工具的人工智能犯罪，这需要我们加快研究如何防范和破解智能技术被坏人所开发和利用；二是作为自主性智能机器人，如果在特定条件下发生了“故意”犯罪或者“过失”犯罪，又将如何确定法律主体和刑罚追责？还有，需要我们高度重视的是，如何防范和打击恐怖分子利用人工智能技术实施恐怖活动，比如利用自动驾驶汽车和无人飞机等实施暴恐活动，这会给国家和社会带来严重的后果。最后，最令人忧虑的是，人工智能被用于各国军备竞赛，这种竞赛的结果必然是大量的智能性自主武器被研发出来并被投入到战场上，这些机器人战士会自动搜素目标并射杀人类而毫无怜悯之心。正如霍金一再告诫的“人工智能的全方位发展可能招致人类的灭亡，比如最大化使用智能性自主武器。”[7]随着人工智能全面介入人类社会生活，原来的人与人、国与国之间的关系必将发生翻天覆地的变化，现有法律和道德规范越来越不能适应新的技术文明，大变革的钟声已然敲响。

2.人工智能给我们带来的另一个挑战就是“经典理论奇点”即将来临——人工智能及其影响即将超越经典社会科学的解释范畴。比如，经典唯物主义所揭示的物质与意识、客体与主体、存在与思维、客观世界与主观世界、自然界与人类社会范畴等，所有这些范畴都建立在人是唯一具有理性思维和意识的物种这一前提判断之上。然而，人工智能的出现可能正在打破几千年来的信条。包括科技界和理论界，越来越多的人相信，人工智能终将成为一种独立于人的新的生命形式、思维存在和行为主体，或者是某种具有高度理性思维的新“物种”。据2017年11月7日《科技日报》报道，霍金在接受《连线》杂志采访时称，人工智能有可能会取代人类，最终会演变成一种超越人类的新生命形式。此外，他一再坚称：“文明所产生的一切都是人类智能的产物，我相信生物大脑可以达到的和计算机可以达到的，没有本质区别。”“未来，人工智能可以发展出自我意志，一个与我们冲突的意志。”[8]尤瓦尔对人工智能也一再坚称：在我们的有生之年，有可能看到有机生命会逐步被无机生命所替代。原先我们是碳基的，未来生命形式当中，硅基会成为主要的生命形式。这是我们有生命以来的40亿年当中第一次出现的一个重大变局。[9]计算机科学与人工智能之父艾伦·图灵曾说过：即使我们可以使机器屈服于人类，比如，可以在关键时刻关掉电源，然而作为一个物种，我们也应当感到极大的敬畏。图灵说这段话的时间是在1951年，那时，人工智能的感念尚未诞生。

随着“技术奇点”的到来，人工智能必将以智慧物种的新面目强势崛起，人类所精心构建的上述自然——人“二元论”理论范畴，将会被自然——人工智能——人“三元”论范畴所取代，人类社会也将从一个由自然界与人类构成的“二维世界”进入到一个由自然界、人类及人工智能构成的“三维世界”。

上述这些已经显现而且即将广泛发生的理论挑战，虽然寂静无声，但却迫在眉睫。在未来，作为回应，不仅需要重新解释这个新世界，而且需要重新构建人类思想的理论范式。

3.人工智能近期对人类的挑战则是“经济奇点”的来临——机器开始普遍替代劳动力。这个概念是英国著名企业家、畅销书作家蔡斯在其新著《经济奇点：人工智能时代，我们将如何谋生？》中提出来的。他在书中预测，由于人工智能的加速发展，到2031年，越来越多的岗位将会被机器替代，世界不可阻挡地冲向“经济奇点”；而到2041年，绝大多数发达国家的失业率将会超过50%，此时就意味着“经济奇点”已经到来，[10]而且经济奇点会远在技术奇点来临之前到来。无独有偶，牛津大学经济学家佛雷和机器学习专家奥斯本对702个职业进行了分析，并得出结论：在未来10—20年，美国47%的就业人口可能会面临失业风险。他们研究认为，相对于此前工业革命对就业市场的改变，本次工业革命对就业市场的破坏范围更广，速度更快，而且，就业市场两极分化的趋势更加严重：认知性和创造性强的高收入工作机会和体力性的低收入工作机会都会增加，但是常规性和重复性的中等收入工作机会将会大幅减少。[11]同样，世界经济论坛主席施瓦布在其新著《第四次工业革命：转型的力量》中指出：随着机器人技术和计算能力的发展，许多工种已经和正在实现自动化，“即便是像律师、金融分析师、医生、记者、会计师、保险承保人、图书管理员等各种不同的职业，也可能部分或全部实现自动化，而且这一天会比大多数人的预期来得早。”[12]他举例说的恰恰就是中等收入的白领阶层。事实上，机器不需要变成强人工智能就能夺走我们大多数人的工作。它们其实在很多专门方面都已经比我们强，包括图像识别、声音识别和自然语言处理等领域，加上资本和市场的驱动，它们正在持续而坚定地替代着我们。机器可以不吃不喝不睡觉，一旦它们接手我们的工作，就会很快比我们干的更快更好，成本更低。此外，人的思维能力不会以指数速度持续提高，但机器可以。因此，随着人工智能技术的迅速演进，机器对劳动力的替代将会进一步加剧。在《全球趋势2030：变换的世界》报告中，美国国家情报委员会也预测到：“虽然在改进机器人的认知能力方面仍有许多工作要做，但到2030年将出现许多具有未来色彩的打破常规系统的技术。这些机器人技术如果实现，那么在某些生产环境中完全就不需要人类劳动力。”[13]机器智能对人工的替代是确定无疑的，当然也有观点认为，不必杞人忧天，因为人工智能新技术既会替代旧有的岗位，也会创造出新的工作。然而，更多的观点认为，随着机器智能的迅速升级迭代，过不了多久，新创造的工作也会被更高级的智能机器所取代，因为这次机器革命与前几次工业革命真的不同。因此，尤瓦尔坚称：“正如第一次工业革命使得城市无产阶级出现，人工智能的出现会出现一个新的阶层，就是无用阶层。数以亿计的人将找不到工作，他没有办法和计算机人工智能竞争，对这些人来说他已经丧失了经济的价值。”[14]没有经济价值也就没有政治和社会权力，因此，“经济奇点”的日益临近，必将对人类政治、经济、社会方方面面产生巨大的冲击和挑战。

4. 人工智能给未来人类社会发展带来的最重大的挑战就是“社会形态奇点”的来临——人工智能或许应该把人类社会导向“自由人联合体”。在未来，我们人类这个种群所有的成员都会改变。我们利用新技术，提高自己的认知能力，增强自己的体质。我们可以服用智商增强类药物，穿戴外骨骼，采用基因技术治愈疾病延长寿命等等。随着科技的加速发展，未来的人体增强技术和认知增强技术每年甚至每个月都会出现重大突破，人工智能性能越来越强大，也会加速这一过程。但是，这一进程并不是在所有人类成员间平等开展的。原因是，精英群体由于已经掌控了资本、权力和技术，因此，他们会利用这些特权更多更快地利用最新的技术增强和改善自身，从而使自己的进化速度越来越快于普通大众，结果出现精英群体与普通大众之间日益加速的分化。按照尤瓦尔的观点，照这个趋势，过不了多久，人类将会分化成两个阶层：上神和废物。蔡斯进一步认为：经济奇点出现后会出现两大分歧。首先，如果绝大多数人失去工作，那精英群体和普通大众之间基本上就不会有任何流动——也就是说，不再有社会流动。全世界概莫能外。如果你没有有偿工作，就很难积累资本。其次，技术进步速度继续加快，精英群体多半会利用认知增强技术和身体增强技术，从身体和认知上跟普通大众分道扬镳。[15]

笔者认为，未来世界可能会有两种不同样式的社会形态选择。一种选择是超现代奴役社会，这个社会建立在私有制基础之上，并由极少数精英群体对普通大众实施统治，人工智能和机器人成为其高科技统治工具和暴力机器，这些精英群体由于掌握特权而加速进化并理所当然地演变成独立的种群——统治种群，也就是尤瓦尔讲的所谓“上神”；而普通大众在与机器竞争中沦落为无用阶层，在与精英进化竞争中被远远抛下，最终沦落为被统治种群，也就是尤瓦尔讲的所谓“废物”。另一种选择就是马克思指出的“自由人联合体”，这个社会建立在公有制基础之上，没有统治与被统治，没有剥削与被剥削，没有奴役与被奴役，没有阶级和阶级对立，在这个社会，文明达到空前的程度，所有的货物都是机器生产的，所有的服务都是机器提供的，人人都享受到智能机器带来的利惠，人人都觉得不需要工作的人生很有意义，人们快乐地生活、学习、做自己喜欢的工作和进行创造，当然收入和科技成果的获得也不会出现两极分化。这个社会样式，本质上就是马克思所设想的未来科学的社会主义和共产主义，在这个崭新的人类文明形态中，“每个人的自由发展是一切人的自由发展的条件。”

社会形态的更替，归根结底是生产力冲破了旧有生产关系的束缚，而科学技术是生产力中最具革命性的因素。由于人工智能的爆发式发展，任何形式的私有制对其都会构成限制和威胁，也正因为私有制本身的贪婪，人工智能滚滚向前的发展也同时成为私有制本身不可摆脱的宿命，其结果必然是人类社会在新时代的发展，将摧毁一切私有制，从而给人工智能等科技和生产力的发展开辟道路，并直接导向全新的公有制社会。只有全人类高度统一的公有制，才能容纳下人工智能所引发的生产力大革命，同样，也只有人工智能的大革命才能真正实现在全人类范围内的公有制。因此，即使会出现超现代奴役社会，它也只能是资本主义私有制的最高和最后阶段，而且注定长久不了，最终将会被自由人联合体的高级文明社会形态所取代。人工智能最初是作为生产工具而存在的，其目的是对劳动力的替代，而发展的结果却是，劳动力得到了全面的解放，人工智能本身也加入到人类社会目的中来。至此，阶级社会走向终结，人类社会消除了阶级对立和阶级冲突，从而在人工智能和机器人的协助下走向永恒。

5.人工智能带来的最根本也是最不确定的风险就是“技术奇点”来临——人工智能或许开始摆脱人类的控制。早在1965年，计算机之父图灵的同事、英国数学家古德就曾写到“第一台超级智能机器人是人类最不应该发明的东西。”他认为：“既然机器人的设计是人类智能活动的一种产物，那超级智能机器人也会设计出更好的机器人；那么毫无疑问，人工智能会导致“智能爆炸”。[16]2005年，库兹韦尔发表《奇点临近》，将人工智能奇点理论推向科技界的风口浪尖。库兹韦尔的一个创见是提出了“加速回报定律”（亦称库兹韦尔定律），该定律认为：信息科技的发展按照指数规模爆炸，导致存储能力、计算能力、芯片规模、带宽的规模暴涨。其中一个很好的例子就是“摩尔定律”，即一块芯片能容纳的晶体管数量每隔18个月左右就会翻番。事实证明，半导体行业几十年来的发展趋势一直遵循摩尔定律。而信息技术发展的其他指标，包括网络带宽，也一直以指数级速度增长。不仅如此，英国著名人工智能科学家默里.沙纳汉进一步指出：“在医学领域，DNA测序的成本快速下降，测序的速度则呈指数上升，大脑扫描的分辨率也在以指数级速度上升。”“我们不难相信，不管是人工智能还是人类智能，都会遵循加速回报定律，最终到达技术奇点”“人工智能和神经技术这两个领域的技术进步会加速奇点的到来。”[17]库兹韦尔同样据此预言：2029年，机器人智能将能够与人类匹敌；2030年，人类将与人工智能结合变身“混血儿”，特别是脑机结合；2045年，人与机器将深度融合，严格生物学意义上的人类将不复存在，奇点来临，人工智能将超过人类本身，并将开启一个新的文明时代。[18]2015年，霍金、马斯克等一批科学家、企业家联名发出一封公开信，呼吁人们必须更多地注意人工智能的安全性及其社会效益，要警惕其过度发展，因为得到充分发展的人工智能或许预示着人类最终被超越。马斯克认为，按人工智能的发展进度，在不久的将来，机器可能以不断加快的速度重新设计自己，超越受制于生物进化速度的人类，最终摆脱人类的控制，并开始“政变”，因此，人工智能很可能是人类遇到的最严重的“生存风险”[19]。尤瓦尔指出，人工智能不仅仅是21世纪最重要的科学进化，也不只是我们人类历史上最重要的科学进化，甚至可能是整个生命创始以来最重要的原则。在我们的有生之年，有可能看到有机生命会逐步被无机生命所替代。这是我们有生命以来的40亿年当中第一次出现的一个重大变局。[20]

当前，许多科学家认为，虽然现在还处于弱人工智能的阶段，但只要技术持续发展下去，强人工智能乃至超级人工智能必然会出现，这只是个时间问题。当机器的智慧反超人类，超级智能出现之时，人类将可能无法理解并控制自己的造物，机器可能反客为主，这对人类而言是致命的、灾难性的。这是个值得全人类深思的问题。这个问题不仅仅与技术相关，而本质上与人本身的性质相关，与人类社会前途命运相关。因此，在投资于技术发展的同时，国家和政府还应当对其可能产生的广泛的社会影响进行及时而深入的研究，共同采取防范措施，确保人工智能朝着有益、安全、可控的方向发展。

把人工智能将会给人类社会带来的风险和挑战概括为五个方面的“奇点来临”，并不意味着这些风险和挑战会在某个时间点同时爆发。沿着技术加速进步的时间轨迹，我们可以尝试将人工智能的发展阶段再进一步细分，在弱人工智能阶段，可以分为计算智能阶段、感知智能阶段和认知智能阶段，目前我们正处在感知智能阶段并开始向认知智能迈进，认知智能也许可以在2030年前后实现，而之后的20年将是实现强人工智能的阶段，这个大阶段可以分为上半场和下半场，而下半场的顶点就意味着与人类智能相匹敌的强人工智能的到来，按照多数人的看法，这个技术奇点最快也许可以在2050年前后来临。按照上述阶段划分，一个更加合理的逻辑是，规范奇点应当在感知智能阶段来临，实际上我们正处于这个阶段，需要回答的法律和伦理问题已经摆在我们面前，2020年之后，规范冲突会大量爆发。在弱人工智能的认知智能阶段，或者在2030年之前，经典理论奇点肯定会来临，届时将需要对理论范式进行重构。经济奇点应当会在强人工智能的上半场来临，2035年前后，发达国家超过一半的工作岗位将被机器替代。到了强人工智能的下半场，经济、技术和社会进入剧烈变化的阶段，2045年前后社会形态奇点将会来临，人类进入一个新纪元。紧接着，随着技术的快速推进，人类将在2050年前后迎来技术奇点的到来，强人工智能得以实现并毫不停留地迈向超级智能。当然，以上表述逻辑只是本文的一个逻辑性概况，实际情况会复杂很多，这些奇点之间肯定会有相互重叠和叠加。

三、若干思考与建议

人工智能是科学技术进步的集大成者，处在当今科技革命的最前沿，代表着人类科技发展的崭新方向，在可预见的将来，它必将全面重塑世界。

在人工智能战略竞争中，美国一直领先，而中国正在全力赶上，在部分领域已经开始超越。总体而言，未来人工智能的竞争将主要集中在中美两国之间。这个态势，美国也看得很清楚。据2017年12月25日《参考消息》转载美国詹姆斯敦基金会网站报道，意识到中国人工智能技术的快速崛起，美国12月中旬发布的国家安全战略报告宣布“为了保持我们的竞争优势，美国将优先发展对经济发展和安全至关重要的新型技术。”美国国家安全战略报告尤其强调人工智能发展极其迅速，而且会给美国国家安全带来越来越大的挑战，并且以中国作为“战略竞争者”。可见，在未来国家科技战略竞争中，中国只能前进，不容后退。

当下及未来几十年，我们应紧紧抓住历史性机遇，大力促进人工智能造福于人民，全力打造世界科技强国的战略地位，同时，为人工智能的未来做好准备，及时控制和防范由此带来的风险与挑战，安全度过五个奇点阶段，全力构建人类命运共同体，为世界发展与安全作出中国的贡献。为此，笔者提出以下政策建议。

1.建议把人工智能技术创新及其风险挑战纳入人类命运共同体范畴，力争为人类作出新的更大的贡献。党的十九大明确提出“中国共产党始终把为人类作出新的更大贡献作为自己的使命”，这个新使命给全世界以极大的鼓舞和信心。同时，当前世界也面临各种风险和挑战，其中，由于科技革命本身带来的问题和挑战正日益引起人们的普遍担忧。比如，人工智能陆续来临的奇点，可能会给人类社会带来巨大冲击，这就需要全球共同应对。基于对超级人工智能可能对人类构成的威胁，霍金也多次呼吁，人类要团结起来，各国政府、科技领袖、企业领袖携起手来，签署国际条约，极尽所能地避免不可控的人工智能的崛起，正如人们签署条约禁止核武器扩散一样。[21]在致2015世界机器人大会的贺信中，习近平***明确指出：“以机器人科技为代表的智能产业蓬勃兴起，成为现时代科技创新的一个重要标志”“中国将机器人和智能制造纳入了国家科技创新的优先重点领域，我们愿加强同各国科技界、产业界的合作，推动机器人科技研发和产业化进程，使机器人科技及其产品更好为推动发展、造福人民服务。”[22]在致2017年第四届世界互联网大会的贺信中，习近平主席在充分肯定互联网成就时，又特别强调指出：“互联网发展也给世界各国主权、安全、发展利益带来许多新的挑战。全球互联网治理体系变革进入关键时期，构建网络空间命运共同体日益成为国际社会的广泛共识。”为此，还专门提出了互联网治理的“四项原则”“五点主张”。这充分说明中央对科学技术安全发展的极端重视。但是，当前，在国内谈及人类命运共同体时，仍然更多是从政治、外交、军事、经济、社会的角度出发，阐述对传统安全及非传统安全的应对，对科技安全、对科技革命所可能带来的风险挑战研究得并不深入，尤其是对人工智能“技术奇点”“经济奇点”“经典理论奇点”“规范奇点”和“文明形态奇点”缺乏系统研究，缺乏自己的话语和声音，更缺乏从全人类未来命运的立场研究和阐释中国的智慧和解决方案，因此，这也应当成为中国倡导构建人类命运共同体的一个全新视角。

2.建议为人工智能的未来做好准备。为中国计、为人类计，为当下及其以后计，我们需要立即行动起来，在落实好已出台的各项战略部署的同时，还要着重开展以下几方面工作：一是深入研究人工智能带来的一系列法律及伦理道德问题，这些新的法律规则和伦理规范既要保护社会，也要促进和包容技术创新和实验，既要维护基本的家庭和社会道德，也要给予人和机器多面向发展关系的空间。二是深入研究人工智能“经济奇点”来临时，如何解决“机器吃人”导致的大量失业和社会公平、社会稳定问题。早在2014年中央财经领导小组第七次会议上，习近平***就明确指出：“要把握好科技创新和稳定就业的平衡点，既要坚定不移加快创新，也要实施有效的社会政策特别是教育和社保政策，解决增强劳动人口就业能力和保障基本生活问题，确保社会大局稳定。”[23]面对人工智能这个全新的技术创新，这个问题就显得更加迫切和紧要。三是深入研究人工智能“经典理论奇点”和“社会形态奇点”所带来的重大思想、理论和实践问题，比如高校可以在马克思主义学院的基础上构建全新的“马克思主义与未来学院”，努力开拓面向未来的中国哲学、中国政治经济学、中国社会学、中国法学、社会主义未来学、中国未来学、人类未来学。总之，高校应该把更多的力量用于探索人类的未来，而不仅仅是流连忘返于过去。四是在全国全社会开展人工智能的义务教育、高中教育、大学教育和社会培训，让每个公民，从小就接受人工智能的科普知识，接受人工智能科学素质教育，全面培养人工智能人才，让每个公民都具备在未来人工智能社会生存、工作和发展的知识和技能，以及与此相关的其他素质和能力。五是深入研究人工智能“技术奇点”及其可能性和相应的控制和救济措施，进行跨学科的深度研究，制定相关的安全战略；六是由中央牵头，在立足科学技术发展和产业应用的基础上，在国家已出台各项战略、规划、政策的基础上，充分考虑上述各项建议内容，研究出台内容全面的人工智能发展的基本指针，并将其定位为国家战略，向全社会发布，供全国遵守贯彻和执行，从而为未来做好准备，也为世界贡献中国智慧和方案。