刑法专家刘宪权：AI犯罪，从删除程序开始处罚

上海书展友谊会堂，刘宪权讲述《人工智能的刑法观》

随着无人驾驶汽车、AlphaGo、达芬奇手术机器人等开始逐渐进入普通大众的生活，人工智能已经不仅仅停留在科幻文学作品中。今天的人类正在走向人工智能纪元。十九大提出，要推动互联网、大数据、人工智能和实体经济深度融合，促进人工智能已经上升为我国的国家战略。8月20日的书展上，随着“独角兽法学精品·人工智能”系列丛书的推出，人工智能是否需要承担刑事责任，人工智能的主体地位如何，人工智能的刑罚问题都是当前热议的话题。华东政法大学刑事法学研究院院长刘宪权带着《人工智能：刑法的时代挑战》《人工智能时代的刑法观》两书，与听众做了深入的探讨。

刘宪权关于人工智能法律研究的两本新书

具有独立意识和意志的人工智能不再只是犯罪工具

“人工智能是值得我们终身研究的课题。”刘宪权是我国刑法研究领域的专家，近年来，他将研究的目光转向了人工智能刑法规制问题。

关于人工智能的法学研究在法学界还存在着争论，首当其冲的是关于智能机器人是否与传统的犯罪工具无异。刘宪权认为当前绝大多数人仅仅把人工智能归类为犯罪工具，认为它充其量是具有一定想法的犯罪工具。但智能机器人与机器不一样。智能只存在于“人”身上。人工智能时代的发展过程意味着机器人身上机器的因素逐步减少，而人的因素则逐渐增多，这有可能影响到研发者和使用者之间的刑事责任分配。因此，我们不宜把智能机器人与一般工具相等同。同时，由于“人”的因素不断增长，智能机器人从替代人的手可以发展为替代人的脑。而人脑是产生思维的所在，当智能机器人开始替代人脑，独立意识和意志就有可能产生。

独角兽法学精品·人工智能第二辑引进出版国外关于人工智能法律研究的新书

人工智能时代刑事责任演变，法学家应提前应对

刘宪权在讲座现场介绍说“机器人技术的发展历程可以分为三个阶段——普通机器人时代、弱人工智能时代和强人工智能时代。”前两者以机器人是否具有深度学习能力进行区分，后者则以机器人是否具有自主意识和意志进行区别。三个阶段的演化必然带来刑事责任的演变。

刘宪权在其《人工智能时代的刑法观》一书中也论述到，因人工智能与信息科技技术的进一步发展与提升，智能机器人愈加接近于自然人。那么以下问题便应当得到理论上的回答：智能机器人与自然人的区别是什么？是否应当赋予智能机器人法律人格？当智能机器人像人一样实施了危害社会的行为时，仅仅以自然人为主体而构筑的现行法律体系是否“过时”，是否仍然足以应对人工智能时代涌现的新情况、新问题？鉴于在自主意识和意志支配下的辨认能力和控制能力是刑事责任能力的内核，当智能机器人具有了在自主意识和意志的支配下的辨认能力和控制能力时，理应将其作为刑事责任主体。也就是说，智能机器人具有独立意识和意志时，就有了承担刑事责任的能力。

虽然强人工智能时代还没有真正到来。但宜未雨而绸缪，虽然将强智能机器人作为刑事责任主体的立法过程是漫长的，但是如果法学家放弃了讨论，那么障碍就永远难以排除。面对可能存在的刑事风险，法学家应当努力探索人工智能时代涉人工智能犯罪的刑法规制路径。

程序对AI，如同生命对于人，犯罪处罚从程序开始

随着人工智能的发展，一旦智能机器人实施严重危害社会的行为，将会对国家法益、社会法益和个人法益造成威胁甚至实际的侵害，那么刑法又应当如何对人工智能进行处罚？

我国现行的刑罚体系中包含生命刑、自由刑、财产刑、权利刑四类刑罚处罚方式。但智能机器人没有痛感、没有财产权、没有财产，也没有相应的权利，现行的刑罚处罚方式如何适用于智能机器人？然而刘宪权认为，这样的推论是基于当前的现状而得出的。在强人工智能时代，拥有独立意思和意志的智能机器人和自然人一样也会拥有追求自由、追求幸福的可能性。因此机器人也可能具有痛感。

另一方面，法律还可以增设能够适用于智能机器人的刑罚处罚方式。刘宪权认为智能机器人存在的基础是程序，程序之于智能机器人，正如生命之于自然人。因此，在刑罚体系的重构过程中应当针对智能机器人的特征，从程序的角度出发增设相应的、有效的刑罚处罚方式。甚至，如果将来相关法律赋予智能机器人财产权或者政治权利，也可以对智能机器人单处或并处财产刑或者权利刑。

当前，刘宪权设想的适用于智能机器人的刑罚可以有三种，分别为删除数据、修改程序、永久销毁。三者之间有具有递进性，构成刑罚阶梯，体现处罚的层次性，可以与智能机器人所实施行为的社会危害性与其自身的人身危险性产生对应关系。

无人驾驶造成交通事故，设计者和汽车均要分担刑事责任

无人驾驶正自2010年世博会的引入后，随着无人驾驶运营，在现实中已经出现了交通违法事故，该当如何处理？刘宪权说，在有人驾驶阶段，如果因驾驶员违法交通规则而造成交通事故，那么驾驶员有可能触犯交通肇事罪并承担刑事责任；如果由于汽车设计、质量问题造成交通事故，那么就由汽车生产者和设计者承担产品质量问题的刑事责任。而无人驾驶汽车违反交通规则，如果是由于汽车质量造成交通事故，同样由生产者和设计者承担责任。但如果无人驾驶汽车违反了交通法规造成交通事故，应由谁来承担责任呢？其中就有刑事责任分担问题。

同样的问题也出现在医疗、证券期货市场、金融等领域。达芬奇手术机器人在医疗领域投入使用，医生借助机器人完成手术，一旦出现医疗事故，由谁来承担法律责任？刘宪权认为传统医生与借助智能机器人进行手术的医生相比，二者所要承担的刑事责任之间必然存在着差异，这种差异与智能机器人介入手术的程度相对应。

达芬奇手术机器人正在工作

一周以后，2019世界人工智能大会就即将在上海召开，人工智能正与我们所在的世界构建起广泛而深刻的连接。作为一项新事物，人工智能时代的到来已经成为不可扭转的现实。然而人工智能还是一个新生儿，它需要社会的呵护成长，同时，它也需要规范和限制。规制人工智能时代的技术风险，为人工智能技术的发展和社会的安全稳定保驾护航，是法学家不可推脱的时代责任和使命。

相关链接：

书展1|辛德勇：海昏侯并非被瓜子毒死，而是急性传染病

书展2|叶小文：“强起来”的中国需要哪些文化支撑

书展3|黄仁伟、冯绍雷：在雅万高铁工地感受“一带一路”

书展4|周裕锴：苏轼玩穿越，一生屡次对话300年前杜甫

书展5|李斌：肿瘤被识别，抗肿瘤免疫法找到癌杀手？

书展6|王兆鹏：词人辛弃疾还是南宋情报专家、预言家…

书展7|余中先：从《巴黎圣母院》能看到怎样的雨果

作者：童毅影

编辑：袁琭璐

责任编辑：李念

*文汇独家稿件，转载请注明出处。