0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

人工智能犯罪:先行预防还是事后严惩

倩倩 来源:lq 2019-08-26 14:32 次阅读

人工智能犯罪:先行预防还是事后严惩

◇刑法规定了多种生产不符合标准的产品的犯罪,只要责任主体仍然是人,人在设计人工智能产品过程中就仍然受到刑罚威慑效果的影响。然而,当AI致人损害而由其自负刑事责任时,人类的上述责任便被转移,为机器人研发者、使用者推卸责任提供了绝佳的借口。

◇以风险防控为由造就的人工智能犯罪主体,实际上加剧了源头风险;刑事责任体系表面上因新犯罪主体的加入而更严密,事实上宽纵了人类义务,得不偿失。

冀洋

自然科学的发展不断影响着法学的思考对象与思考方式,人工智能技术的勃兴如今唤起了更多法律人的热情。在刑法领域,以“将机器人纳入刑事责任主体”为代表的研究自2018年以来呈现急速增长,其基本看法是:人工智能可与人类一样接受独立的处罚,并可承担删除数据、修改程序、永久销毁等刑罚种类(肯定论)。然而,承认人工智能的犯罪主体地位,将面临五大悖论。

第一,“技术失控—技术可控”之悖论。人工智能刑法研究的忧患意识来源于“人工智能的失控”:智能机器人将来具有辨认和控制能力,能够超越设计程序实施行为。然而,肯定论又提出了针对人工智能的专有刑罚种类,除了永久销毁或许可以仅通过蛮力完成之外,其余两种刑罚均只能借助于高超的计算机技术以改造人工智能的“大脑”。那么,这里的问题就很明显了:既然刑罚技术能够对人工智能的犯罪能力做出有效限制、能够通过这种先进技术刑罚将其框定在安全轨道,为何还会存在人工智能超脱人类控制的情形?上述刑罚设计表明的不正是人类可以实现对人工智能的控制?若此,人工智能就永远不会失控。若能够从数据程序上消灭人工智能的犯罪能力,为何人类不在研发阶段就做出这种技术干预?若没有这种技术,这种技术刑罚又有何用?肯定论既断言存在人工智能不可控的情况,又在刑罚上主张人工智能的运行程序能够被操纵,这存在先承认“技术设计失败”又承认“技术设计可靠”的悖论。

第二,“特殊预防无效—特殊预防有效”之悖论。肯定论主张赋予人工智能犯罪主体身份,是为了给予其一定的刑罚,从前述三种刑罚种类可以看出,他们最看重的刑罚目的不是报应、不是一般预防而是特殊预防:通过删除数据、修改程序等技术手段剥夺其实施犯罪行为的可能性;若人工智能无法被矫正,那么就可以直接永久消灭之。概言之,这完全属于李斯特式的预防论:矫正可以矫正的罪犯,不能矫正的罪犯不使为害。但是,智能机器的运行不像人类那样具有先天的、自然的行动力,它是通过精密的程序计算来实现的,因而一个可能的技术操作便是,直接在设计阶段对人工智能的“大脑”预设危险避免措施、消除犯罪条件。可为何要等到犯罪之后再介入?如果设计编程可以实现特殊预防,那么在研发过程中植入这样的控制程序才是最可靠的;如果人类没有这种编程,那么设定这种刑罚又有何用,在犯罪后修改数据也同样是不可实现的。因此,在“技术失控—技术可控”的悖论之后,肯定论在刑罚目的及其实现路径上面临又一悖论:以消除犯罪能力为目的,在能够采取特殊预防措施的情况下,故意不采取措施而坐等犯罪之后才大谈矫治之道。

第三,“刑罚设计—非刑罚性”之悖论。虽然刑罚能够实现报应功能和预防功能,但这些功能却并非刑罚所专属,具有上述功能的处罚措施并非都可以被称为刑罚,其他法律中的行政处分、民事赔偿等措施也分担着这些功能,如吊销营业许可证、吊销驾驶证、损害赔偿等。刑罚与行政处分、民事赔偿在本质上是完全不同的:刑罚的本质是从国家立场对犯罪进行的非难,行政处分是行政取缔上的保安处置,民事赔偿则是损失的公平分配。吊销证照、损害赔偿等都不是刑罚种类,即便这些措施被规定在刑法典中,它们也只能被称为“非刑罚措施”,如刑法第37条规定的“训诫、责令具结悔过、赔礼道歉、赔偿损失”“禁止从事相关职业”等。肯定论设计的删除数据等所谓的“刑罚种类”,在当前阶段甚至几百年前就是机器设备出现故障时的最普通的修理方式,通过删除拆解零部件、修改某项设计甚至直接将之报废,根本不需要什么法律甚至刑法上的正当化根据以及司法程序,而只需要一本“使用说明”“检修指南”而已。这无异于将刑法贬低为技术管理法甚至“机器维修手册”:能修就修,不能修就报废。

第四,“AI主体性—AI工具性”之悖论。人们本来是为了生活的便利化而研制AI,但赋予其刑事主体地位就等于必须承认其拥有一定的平等权利空间,那么就对人类权利的行使提出更多限制,这实际上为人类设立了一个新的竞争物种,结局是:人类必须时刻为保障人工智能的权利、为人工智能的健康运转而服务,这加重了个人生活负担,最终消解了前述便捷性。因此,不少肯定论者不承认AI与人类在法律面前平等。但法律的强大之处就在于将事实上的不平等以法律拟制的方式强行弥合,如果人类与AI在法律上都不平等,那么二者将在任何时空都不会平等,二者就不可能并存于某一法律主体系统内,而只能区分为“主体—工具”。此外,不少肯定论主张建构强制保险制度、建立赔偿基金等以弥补机器人造成的损害,可如果AI是法律主体,那么为何需要另一个主体(人类)为之缴纳保险费或基金?AI连独立的财产权都没有,其在致人损害时如何承担义务?最终而言,这些责任还是要被推到人类自身,这与当下的产品致损责任、汽车交强险制度并无不同。

第五,“消减风险(追求责任体系严密化)—加剧风险(转移人类责任)”之悖论。如果人类在制造这些机器人时设定的是“与人无害”模式,但在后期运行中机器人在编程外实施法益侵害行为,这难道不正表明人类的技术依然不成熟?人类为机器人设定的框架很容易被突破,继而在失控之后发生法益侵害,被非难对象难道不正是人类自己?如果我们把机器人的失控看作传统产品缺陷或管理过失等,即将责任归之于人类,则更有助于实现“风险防控”。例如,侵权责任法第41条有关产品缺陷责任规定实行无过错原则,民法正是以此升级对产品生产设计者的责任、降低产品缺陷及其损害风险。再如,刑法规定了多种生产不符合标准的产品犯罪,只要责任主体仍然是人类,人类在设计AI产品过程中就仍然受到刑罚威慑效果的影响,刑法在风险应对上仍有所作为。然而,当AI致人损害而由其自负刑事责任时,人类的上述责任便被转移,为机器人研发者、使用者推卸责任提供了绝佳的借口。当人类以“机器人已经有自我意识,其法益侵害行为与我无关”作为挡箭牌成功推卸掉法律责任时,如何期望他们严格控制人工智能研发风险、使用风险?只有将机器人失控之情形仍然作为产品缺陷范畴,才能够促进人类谨慎研制人工智能、不断提升人工智能技术,主动减少技术造福人类时的技术风险。如果研发者既能靠AI技术谋取利润,在发生侵权损害时又不用承担法律责任,他们内心不知得有多狂喜,被害人不知得有多倒霉。所以这里存在第五个悖论:以风险防控为由造就的“AI犯罪主体”,实际上加剧了源头风险;刑事责任体系表面上因新犯罪主体的加入而更严密,事实上宽纵了人类义务,得不偿失。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器人
    +关注

    关注

    210

    文章

    28191

    浏览量

    206480
  • 人工智能
    +关注

    关注

    1791

    文章

    46840

    浏览量

    237517
收藏 人收藏

    评论

    相关推荐

    嵌入式和人工智能究竟是什么关系?

    嵌入式和人工智能究竟是什么关系? 嵌入式系统是一种特殊的系统,它通常被嵌入到其他设备或机器中,以实现特定功能。嵌入式系统具有非常强的适应性和灵活性,能够根据用户需求进行定制化设计。它广泛应用于各种
    发表于 11-14 16:39

    人工智能在智慧城市建设中的应用

    传感器和智能控制算法实时收集和分析交通数据,实现智能信号控制,提高道路通行效率。 无人驾驶技术 结合智能车辆和无人驾驶技术,人工智能可以实时监测道路状况,预测并
    的头像 发表于 10-24 16:15 615次阅读

    《AI for Science:人工智能驱动科学创新》第6章人AI与能源科学读后感

    幸得一好书,特此来分享。感谢平台,感谢作者。受益匪浅。 在阅读《AI for Science:人工智能驱动科学创新》的第6章后,我深刻感受到人工智能在能源科学领域中的巨大潜力和广泛应用。这一章详细
    发表于 10-14 09:27

    AI for Science:人工智能驱动科学创新》第4章-AI与生命科学读后感

    很幸运社区给我一个阅读此书的机会,感谢平台。 《AI for Science:人工智能驱动科学创新》第4章关于AI与生命科学的部分,为我们揭示了人工智能技术在生命科学领域中的广泛应用和深远影响。在
    发表于 10-14 09:21

    《AI for Science:人工智能驱动科学创新》第一章人工智能驱动的科学创新学习心得

    周末收到一本新书,非常高兴,也非常感谢平台提供阅读机会。 这是一本挺好的书,包装精美,内容详实,干活满满。 《AI for Science:人工智能驱动科学创新》这本书的第一章,作为整个著作的开篇
    发表于 10-14 09:12

    risc-v在人工智能图像处理应用前景分析

    RISC-V在人工智能图像处理领域的应用前景十分广阔,这主要得益于其开源性、灵活性和低功耗等特点。以下是对RISC-V在人工智能图像处理应用前景的详细分析: 一、RISC-V的基本特点 RISC-V
    发表于 09-28 11:00

    人工智能ai 数电 模电 模拟集成电路原理 电路分析

    人工智能ai 数电 模电 模拟集成电路原理 电路分析 想问下哪些比较容易学 不过好像都是要学的
    发表于 09-26 15:24

    人工智能ai4s试读申请

    目前人工智能在绘画对话等大模型领域应用广阔,ai4s也是方兴未艾。但是如何有效利用ai4s工具助力科研是个需要研究的课题,本书对ai4s基本原理和原则,方法进行描诉,有利于总结经验,拟按照要求准备相关体会材料。看能否有助于入门和提高ss
    发表于 09-09 15:36

    名单公布!【书籍评测活动NO.44】AI for Science:人工智能驱动科学创新

    ! 《AI for Science:人工智能驱动科学创新》 这本书便将为读者徐徐展开AI for Science的美丽图景,与大家一起去了解: 人工智能究竟帮科学家做了什么? 人工智能将如何改变我们所生
    发表于 09-09 13:54

    报名开启!深圳(国际)通用人工智能大会将启幕,国内外大咖齐聚话AI

    8月28日至30日,2024深圳(国际)通用人工智能大会暨深圳(国际)通用人工智能产业博览会将在深圳国际会展中心(宝安)举办。大会以“魅力AI·无限未来”为主题,致力于打造全球通用人工智能领域集产品
    发表于 08-22 15:00

    FPGA在人工智能中的应用有哪些?

    FPGA(现场可编程门阵列)在人工智能领域的应用非常广泛,主要体现在以下几个方面: 一、深度学习加速 训练和推理过程加速:FPGA可以用来加速深度学习的训练和推理过程。由于其高并行性和低延迟特性
    发表于 07-29 17:05

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2)

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V2) 课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 14分50秒 https
    发表于 05-10 16:46

    5G智能物联网课程之Aidlux下人工智能开发(SC171开发套件V1)

    课程类别 课程名称 视频课程时长 视频课程链接 课件链接 人工智能 参赛基础知识指引 14分50秒 https://t.elecfans.com/v/25508.html *附件:参赛基础知识指引
    发表于 04-01 10:40

    嵌入式人工智能的就业方向有哪些?

    嵌入式人工智能的就业方向有哪些? 在新一轮科技革命与产业变革的时代背景下,嵌入式人工智能成为国家新型基础建设与传统产业升级的核心驱动力。同时在此背景驱动下,众多名企也纷纷在嵌入式人工智能领域布局
    发表于 02-26 10:17

    生成式人工智能和感知式人工智能的区别

    生成式人工智能和感知式人工智能人工智能领域中两种重要的研究方向。本文将探讨这两种人工智能的区别。 生成式人工智能(Generative A
    的头像 发表于 02-19 16:43 1533次阅读