如何避免人工智能成为脱缰的野马

让法律跟上人工智能发展步伐

“制定一部兼具前瞻性、科学性、规范性的指导法律，已经成为社会各界民众的共同期盼。建议立法机关在民法典等相关法律制定中，增加相关规定。同时优先制定涉及人工智能研发、应用、数据及隐私保护以及预防和惩治人工智能犯罪等相关法律。”

中国人民大学法学院院长王轶注意到，就在不久前，日本销售商推出了美女形象的机器人，一经推出就供不应求，“当然，这仅仅是人工智能快速发展的一个例子。值得注意的是，人工智能在高速推动社会发展的同时，也带来了相应的挑战”。

人工智能带来的风险和挑战，也引起了中国法学会党组成员、副会长兼秘书长张鸣起的注意。张鸣起指出，人工智能既有拉动经济、服务民生、造福社会的正面效应，也会出现安全失控、法律失准、道德失范、伦理失常、隐私失密等风险，要实现趋利避害和扬长避短的目的，单纯依靠行政方式远远不够，依法规范和治理才是治本之策。

但这项治本之策，目前来看，仍然有许多需要完善的地方。

“当前人工智能的发展，仍然存在诸多立法缺位的问题。例如，现有的法律概念和法律制度还不能适应和满足人工智能发展的需要。再比如说，人工智能基础的法律原则和规则缺位，成为人工智能进一步发展的掣肘。”天津市法学会副会长高绍林举例说。

天津市法学会会长散襄军认为，人工智能是新一轮科技革命和产业变革的重要驱动，在带来巨大贡献和机遇的同时，也带来了诸多风险和挑战，要想从根本上推动人工智能的蓬勃发展，必须要有法治的保驾护航。

天津市副市长、市委政法委副书记、市公安局局长董家禄指出，人工智能对于现行法律制度带来的深刻影响，为新时代法治建设提出了新的课题。实践创新需要理论创新的支持，人工智能的发展需要强有力的法律支持和法治保障。

5月16日，由天津市委政法委指导、天津市法学会主办的第三届世界智能大会“人工智能发展与法治保障”高峰论坛在天津举行。与会专家学者从人工智能立法、执法、司法和伦理政策层面，围绕应对人工智能发展应用过程中出现的新情况、新问题和进一步完善保障人工智能发展法律制度建设进行了深入研讨，达成了关于“人工智能发展与法治保障”的天津共识。

与会人员认为，人工智能在推动社会高速发展的同时，也带来了相应的挑战。为了避免人工智能因为缺乏规矩而成为“脱缰野马”，有必要给其套上法治的“缰绳”，运用法治手段为人工智能发展保驾护航。

人工智能有机遇也有风险

在张鸣起看来，人工智能在新时代经济社会发展中具有极其重要的战略地位，人工智能的发展关乎到国家安全的维护、经济发展方式的转变和人民群众对美好生活的期待，其重要意义毋庸置疑。

“当前，人工智能与民生的保障和改善不断加速融合，在普通民众的日常工作、学习、生活中得到深度运用，在智能交通、智能家居、智能医疗等领域创造出更加优越、便捷的工作方式和生活方式。”张鸣起举例说。

人工智能越重要，就越要对其加以重视。究其原因，不仅是因为人工智能所带来的巨大机遇，还因为其在发展中伴随着的巨大风险。

张鸣起认为，算法是人工智能的核心要件，算法设计者的个人好恶，易于被有意或者无意注入到人工智能算法中，严重的就会构成算法歧视，“比如，有的用户无意中在网站上看了件尺码宽大的衣服，电商平台就可能三番五次向其推荐减肥药等物品，这会让一些用户感受到算法对自己身材的歧视”。

天津大学法学院院长孙佑海认为，人工智能在收集、存储、应用等方面，都存在一些风险。在收集方面，一些设备在当事人不同意的情况下就自行收集用户信息。在存储方面，一家或者几家独自垄断用户信息，一旦泄露后果不堪设想。在应用方面，人工智能依据特定算法，可以全方位了解用户的偏好和需求，极大提升信息的精准分发，可能会对人们生活造成困扰。

“人工智能在造福人类的同时，也可能给人类带来负面影响甚至是灾难。在其发展过程中，很容易引发人身安全、伦理道德、隐私泄露、算法的歧视、知识产权、信息安全、国家和社会安全等诸多风险。”高绍林说。

现有立法仍过于原则粗糙

“我们在享受人工智能带来的红利时，也要对它所带来的风险和挑战作出及时回应，这就需要通过立法加强引导和规范来趋利避害，保证人工智能的良性发展。”高绍林说。

然而，与人工智能的高速发展相比，相关法律制度的构建速度显得有些缓慢。

张鸣起指出，立法本身就具有滞后性，在人工智能领域新技术一日千里的态势下，这一点体现得更加明显。人工智能的快速发展，对信息公开、公众参与等法律制度不断地提出新的挑战，对新形势下的立法工作必将提出新的更高要求。

“现有立法对人工智能发展的关键领域疏于规定，或者规定上过于原则粗糙，诸如人工智能体的民事法律地位的确立问题、刑事责任承担问题、隐私权的保护问题、著作权的归属问题等，目前均缺少明确而细化的立法规定。在当前和今后一段时期，人工智能领域由于无法可依、少法可依、有法难依等相关问题，有可能倒逼相关立法的不断提速和完善。”张鸣起说。

对于备受关注的个人信息保护问题，北京航空航天大学法学院院长龙卫球指出，我国在个人信息和企业数据保护立法方面稍有滞后。目前，仍然没有系统化的立法出现。但值得欣慰的是，目前已经有了一些立法的开展，例如，民法总则、电子商务法、网络安全法等法律法规中都明确对个人信息保护作出规定。此外，个人信息保护法也在制定过程中。

建可操作性强刚性立法体系

唯有将人工智能发展纳入法治轨道，才能从根本上实现其发展的安全性、可靠性与可控性——这是与会专家学者所达成的共识。

张鸣起指出，运用法治手段为人工智能发展保驾护航，加强人工智能时代的法治建设，有效解决互联网、大数据、人工智能、区块链的前沿科技对国家治理、社会公平正义的新需求，是当前法学研究和法治实践的一个重大课题。对此，应当借助于刚性立法的强制力，进一步规范、调整、优化人工智能引发的社会关系、伦理问题等。

“制定一部兼具前瞻性、科学性、规范性的指导法律，已经成为社会各界民众的共同期盼。建议立法机关在民法典等相关法律制定中，增加相关规定。同时优先制定涉及人工智能研发、应用、数据及隐私保护以及预防和惩治人工智能犯罪等相关法律。”张鸣起说。

孙佑海认为，人工智能的发展，离不开一部反映时代需求的人工智能法以及配套的法规所组成的法律法规体系。现阶段，我们正处于人工智能技术的高速发展期，新兴技术层出不穷，因此立法不能过细，但是应当制定相应框架性的规定，建议全国人大常委会将人工智能法列入到立法计划中，并为此进行一些立法前的准备工作。

“建议明确近期立法工作重点。目前来看，针对人工智能场景进行专门的立法，是比较务实的思路。建议有关部门优先对于无人机的管理、自动驾驶、图像识别相对成熟的技术应用，制定法律规章，以刚性的法规条款引领秩序。”孙佑海说。

高绍林认为，当前人工智能发展总体还处于弱人工智能时代，人工智能技术多集中于一些语音识别、图像识别、自动驾驶等具体应用领域，还没有形成通用的人工智能。因此，就立法来讲，还不具备制定一个完整的人工智能法律制度的客观基础。

“人工智能立法规制的路径，应当主要采取对现行的法律制度进行必要修改的方式，使它能够适应人工智能的发展，并且为人工智能进一步发展提供良好的法治环境。“高绍林说。

与会专家学者认为，人工智能法律规范体系建设应与人工智能发展齐头并进。要在认真总结、及时确认人工智能发展经验成果的基础上，优先在金融、交通、医疗、城市建设等重点领域形成一批行业性指导规范，依照法定程序逐步上升为地方性法规或规章，最终形成一套富有前瞻性、体现强制力，又有可操作性的刚性立法体系，保障人工智能发展有章可循，有法可依。