人工智能时代：谁为智能机器人的犯罪行为买单？
舒登维
（中南财经政法大学刑事司法学院，湖北武汉430073）
摘 要： 人工智能时代的来临，既给人类社会增添了福利，但同时也带来了忧虑。反映到刑法上，即智能机器人实施犯罪行为将如何处理。智能机器人由于拥有学习能力并且具有辨认、控制等能力，应当承认其刑事责任主体的地位。当未超出设计、编制程序范围实施法益侵害行为时，其并不是基于自身的独立意志，而是被当作一种“智能工具”，应当追究其背后设计者或使用者。当超出设计、编制程序范围实施法益侵害行为时，具备独立意志，在拥有刑事责任能力的前提下，应由智能机器人为自己的行为买单。
关键词： 人工智能；智能机器人；刑事责任；刑事责任能力
一、问题提出
近年来，随着科技的飞速发展，人工智能逐渐进入人们的视野并被运用到生活、生产，扮演着替代人类工作乃至解放劳动力的角色。在过去，智能机器人的形象往往只能在好莱坞大片和科幻小说中才能看到，如根据科幻大师阿西莫夫的短篇小说改编的电影《我，机器人》，在该电影中智能机器人深入到了人类生活的各个领域。但是今天，人工智能正在以惊人的速度迈向人们的生活，科技的日新月异，使得人们对未来美好生活十分憧憬。如今，世界各国在人工智能领域投入了大量的人力、物力以及财力，无一例外，我国同样也十分注重该领域的建设，以打造科技强国。众所周知，人工智能具有惊人的处理信息的能力，其记忆以及学习能力都是十分强大的，甚至超越了人类。一方面，人工智能的出现，给人们的工作和生活带来了巨大的改变，减轻了人们的压力并带来了便利，如自动驾驶的应用，使得诸如残疾人、老年人等弱势群体从不能驾驶到随时出行的方便。但与此同时，人工智能的应用，使人们面临着一系列难题，增添了人们的担忧。例如，世界上第一宗机器人杀人事件、机器人外科手术医疗事故、军用人工智能战械规模化等新问题接踵而至。此外，发生在2018年3月的自动驾驶汽车撞人事件，一名女性被一辆Uber自动驾驶SUV撞倒并死亡。［1］随着5G信息时代的来临以及人工智能在汽车领域的广泛运用，自动驾驶汽车引发的交通问题将会越来越多。预防机器人向负面发展十分紧迫，无须等到机器人与人的智慧相等的那一天……它们带给人类社会的不仅是便捷以及生活的改善，而且将会对人类社会的某些规则造成冲击或改变。［2］那么，当智能机器人卷入刑事案件中，这对现行法律制度提出了一系列难题，智能机器人能否为自己的行为承担责任？如果能，责任又将如何进行划分？
二、智能机器人概念界定及发展阶段
（一）智能机器人概念界定
对于一个问题的明晰、解决，往往是从它的基本概念入手的，事物的基本概念与定义都体现着该事物的基本内涵和外延。因此，无论是讨论智能机器人本身在刑法中的定位，抑或研究智能机器人与刑法中其他主体的关系，对何为智能机器人予以界定就十分必要。
在明晰智能机器人之前，有必要对人工智能作一定界定，这既有利于更好地理解智能机器人，也便于分清两者的关系，不致混淆。目前为止理论界对于什么是人工智能尚无一个能被广泛认可的定义，20世纪50年代的达特茅斯会议① 达特茅斯会议是由达特茅斯学院的数学系助理教授约翰麦卡锡（John McCarthy）等人于1956年召开，该会议旨在召集一批知识分子研讨“人工智能”，该次会议被认为是人工智能的缘起。 中有人提出了相对宽泛的概念，总结而言认为人工智能是一门新的科学技术。那么，智能机器人与人工智能是否能画上等号呢？笔者持否定观点，前者是一种有别于普通机器人的、具有类似人类独立思考与自主学习能力的、通过计算机实现人脑思维所产生的效果并能获取感知以及执行行动的智能体。而后者则属于一种科学技术；智能机器人是承载着人工智能这种技术的载体、实物，人工智能为智能机器人有效运转提供技术支持，智能机器人的正常运行奠基于人工智能技术之上；此外，前者正是后者运用到机器领域的一种表现。因此，两者相互关联，但又有本质的不同。
（二）智能机器人的发展阶段
智能机器人作为科技的产物，其不像人类那样具有生命，而主要是依靠数据、编程进行生存。在解决智能机器人犯罪行为时也不能不加区分的一概而论，这样既不能真正解决其所带来的问题，反而会起到适得其反的负面作用，进而致使其难以得到有效的规制。正如对自然人犯罪划分为三个阶段，即：不负刑事责任、相对负刑事责任以及完全负刑事责任。诚然，智能机器人虽然与人类存在较大不同，但其刑事责任同样也可以分阶段进行讨论，而不是混为一谈。智能机器人由于是时代发展的产物，其刑事责任必然与其发展阶段密切相关，根据智能化程度高低（是否具有意识等能力）可以划分为以下几个阶段：
第一阶段，弱人工智能（Artificial Narrow Intelligence，ANI）。该阶段智能机器人的特征是智能程度低，不具备自主意识，基本上完全处于编制程序内进行工作，而且往往只能胜任单一领域的技术或者操作。例如，比如战胜李世石、柯洁这类围棋世界冠军的AlphaGo，除了下围棋外，对其他领域一无所知，现阶段的自动驾驶汽车也是如此。
第二阶段，强人工智能（Artificial General Intelligence，AGI）。该阶段的智能机器人基本上已具备人的特征，能够自主地学习、思考，且能独立解决问题。
第三阶段，超人工智能（Artificial Super Intelligence，ASI）。该阶段的智能机器人在各个方面将得到很大的提升，其处理、解决问题的能力在某种程度上远远超越人类，是一种全智能化的机器，基本上可以运用到生活的各个方面，但其主要擅长逻辑推理、数据计算等。
(1) PMSM采用逆变器供电时,电流和径向气隙磁密波形都出现许多毛刺,在开关频率附近存在幅值较大的电流谐波,增加了高频段结构共振的可能性。
3.符合时代发展趋势
三、智能机器人刑事责任主体资格厘定
智能机器人的发展和其今后的广泛运用依赖于“法律人格”的明确，由于法律总是滞后于生活，现行法律无法很好地适用于飞速发展的人工智能技术。对于智能机器人是否具有“法律人格”，抑或智能机器人能否被赋予法律资格，理论上存在不同的争论。目前，普遍流行的有三种学说，即：工具说、电子奴隶说、代理说。工具说从人工智能创造初衷出发，认为智能机器人是为人类服务的工具，创设是为了服务于现实生活生产。因此，该说否认其具有独立的法律人格。电子奴隶说从智能机器人与人的基本特征出发，认为智能机器人不具有人类所独特的情感与肉体，在工作时不会疲劳等事实，进而否认其在法律上的权利能力。代理说对智能机器人的代理地位予以确认，在一定程度上反映了该学说承认智能机器人具有独立的法律人格，类似于民法中的代理行为，即在智能机器人拥有权利与行为能力时，才具备该资格。但代理说依然具有缺陷，在智能机器人完全自行做出意思表示时，无法解决各主体责任公平分担问题，此时由谁担责并不明确。
（一）智能机器人“法律人格”诸学说检视
刑法如何应对人工智能时代所产生的前所未有的风险，如何进行规制以及惩罚智能机器人犯罪将成为必须解决的难题。探讨智能机器人的责任能力，对于其刑事主体资格界定必不可少。当智能机器人犯罪时，将由谁来对其行为负责？其是否能成为法律上的“人”？其自身可否承担刑事责任？
（二）智能机器人刑事责任主体资格明晰
通过分析发现，以上三种学说，都有不足之处，无法很好地界定智能机器人的性质。智能机器人是人类社会进步的象征，是科技发展到一定阶段的成果展现，高度的智慧性与自主学习等能力，决定了其区别于传统的工具或代理人。结合上述学说，将智能机器人界定为拥有智慧工具等特点，同时又具备学习、辨认和控制能力的特殊刑事责任主体较妥。理由如下：
1.拥有辨认和控制能力
主体的意志自由是担责的基础，具体表现为辨认和控制能力。［3］当前，我国刑法规定的犯罪主体只有自然人和单位。为什么只有此两者才能成为刑法上的主体呢？其背后的逻辑依据是实施法益侵害行为和在该过程中具有辨认和控制行为的能力。否认智能机器人不具备刑事主体资格的一个重要理由，即认为人以外的其他物体并不具有辨认和控制行为的能力。的确，在弱智能阶段的智能机器人并不具有此类能力，其行为完全受控于程序的研发者编写的程序代码，此阶段它只是一种工具，如扫地机器人，其运行过程中虽然能自动识别需要打扫的区域以及分辨障碍物，但其实施行为主要基于编程控制，并不能基于自己主观意愿进行行为。但随着技术的不断进步、对人工智能的深入研究，具备此类能力的智能机器人并不是遥不可及的事情。当前，智能机器人通过算法、大数据和深度学习能在某一领域具有超越人类的能力，例如，战胜柯洁的AlphaGo在围棋领域可谓“顶尖高手”。虽然智能机器人在其他领域目前无法与人类媲美，但在围棋领域的学习能力是人类目前无法比拟的。现阶段的智能机器人，其明显不同于有血有肉有思想的人，但又与仅会机械地执行指令的普通机器存在着很大的差别。
其一，未超出设计、编制程序的智能机器人并不具备自身的独立意志，其只能在设计和编制的程序范围内独立判断并自主做出决策，由于设计和编制的程序反映的是其背后人的意志，实施的行为完全受制于人、符合人的意图和目的，与普通的动物或者工具在法律上基本上无异。虽然其可能实施了刑法上的危害行为，满足刑法要求的构成要件，但由于其实施行为都是在基本上无法认识和控制的情况下，当然不能对其进行归责。
由于智能机器人既有与人相同之处（具备学习能力），也有不同之点（人是有血有肉的，而智能机器人基于编制程序得以存活）。正如有学者所言，人类对情感的理解能力，以及做出适当反应的能力，这些将被未来的机器智能理解并掌握。［4］14当发展到强人工智能以及超人工智能阶段时，智能机器人在许多方面的能力将会超越人类，与人类相比，强人工智能具有更强的控制与可培养的辨认能力。［3］毫无疑问，此时的智能机器人具有意志自由，能够基于独立意志做出行为。因此，强人工智能以及超人工智能阶段的智能机器人符合刑法对刑事责任主体要求，具有归责的可能性。
2.与单位相似，却胜似单位
目前学术界有一大批学者认为智能机器人并不能满足刑法上的主体要求。例如，黄京平教授认为，即使其他部门法律承认智能机器人的法律主体资格，刑事法律也不应确认其主体地位。［5］笔者认为，此见解未免于狭隘，它未能充分认识到人工智能的发展潜力以及其在社会扮演的角色。该见解类似于早期德国刑法学理论认为单位不能成为刑事责任主体，费尔巴哈曾明确表示，只有人才能成为犯罪的主体，而法人等绝不可能成为犯罪的主体。［6］但如今，单位犯罪已十分普遍，世界上大多数国家都承认单位可以成为刑事责任主体，其刑事责任主体在刑法中得到了明确的规定。对于单位而言，其本身并不具有自由意志，其刑事责任基础源于单位内部人员的意志，单位意志是个人意志的集合形成，也正是单位内部成员的意志使得其具有刑事责任能力。
2017年以来，西安市大力推进文化建设，相继出台《关于补短板加快西安文化产业发展的若干政策》、《西安市文化产业倍增计划》、《西安市书香之城建设实施方案(2017—2021)》等政策。但是，专门针对公共图书馆的发展政策还很少。公共图书馆是市民享受城市公共文化服务的重要窗口，在很大程度上体现着城市的公共文化服务能力，影响着城市的文化内涵和市民的文化素养。因此，西安在城市发展的过程中应给予图书馆事业更多的关注，着力解决公共图书馆发展不平衡不充分的问题，使公共图书馆服务能力有质的提升，为打造文化西安、品质西安做出贡献。
如前所述，由于强、超人工智能阶段的智能机器人将具备相当强的学习能力，做出相应行为时已然具备与人类相似的辨认和控制能力，所以应当认为其具有刑事责任能力。与单位相比，可以发现智能机器人并不需要借助于其他主体的意志，且与自然人的担责更为近似。因此，既然“间接”实施行为的单位都能得到刑法上的承认，理所当然，“直接”实施行为的智能机器人也应予以纳入刑事责任主体的范围。
随着人们对人力资源管理认识水平的提高，通信公司也更为注重人力资管管理的水平和效果。为进一步促进通信公司人力资源管理水平的提高，将薪酬管理与绩效管理融合是十分关键的。薪酬与绩效管理作为人力资源管理的重要组成部分，对人力资源管理水平的提高有重要的影响。薪酬与绩效管理的完善，有利于提高人们对人力资源管理的认识，还有利于改善通信公司的人力资源配置，更有利于促进通信公司人员的自我实现。
三个阶段，智能机器人的智慧程度呈上升趋势，辨认和控制能力也由无到有进而到强。若在智能机器人致损案件中，承认智能机器人具备承担刑事责任的能力，笔者认为其刑事责任也应当根据承担责任的能力进行区分，具体而言：弱人工智能阶段由于智能化程度低，实施的行为完全基于编制程序，可以划分到完全不负刑事责任范围；强、超人工智能阶段中，由于智能化程度高，归入到完全负刑事责任范围，当然，基于他人控制而丧失自主意志实施行为属于不可归责类型；此外，系统异常或中病毒所实行的行为不可归责。目前，智能机器人的研发主要停留于弱人工智能阶段，智能机器人尚不具备自主意识，基本上依赖于设计程序，只能在编程范围内实施行为。但随着时间的流转以及科技的不断更新，相信在不久的将来就可以进入到强人工智能时代。
智能机器人成为法律上的“人”，目前对于许多人来说可能难以接受。但时代是在不断地发展的，法律上的“人”也不会一成不变。人工智能时代的到来，刑法理论不应再将犯罪主体的范围局限于具有生命体的“人”。［7］不久的将来智能机器人将会大范围的投入使用，试想，若不提前进行规制、不提前做好应对的准备，未来人类社会的安定将如何得到保障？未来实验室首席战略与创新官特雷西·弗洛斯曾预言，人工智能技术将使机器人拥有实施犯罪行为的能力，在2040年其犯罪率将超过人类。［8］
1990年，阿替普酶用于治疗AIS的双盲多中心临床试验结果首次发表［37］。这次试验使用阿替普酶或尿激酶治疗364例AIS患者，治疗时，36.2%患者发生AIS的时间在24 h内，69.5%患者在48 h内，最终两组间未见差异，但提示阿替普酶在AIS发生后极早期治疗可能会比较有效。
内控是一种管理手段，就是指企业或单位内部的职能机构和管理人员，在组织经济业务过程中的一种联系并制约的管理方法，包括三个基本方面：第一，确定职能部门和管理人员的权责；第二，规范经济业务的手续和流程；第三，制定经济业务与管理者的的制衡机制。
四、智能机器人犯罪刑事责任分配
智能机器人虽然不同于人，但其也可以产生自主意识，不仅如此，通过深度学习，许多方面的能力都将远远超过人类。当智能机器人被广泛地运用，成为社会的组成部分时，实施的犯罪行为将如何进行处理，是否需要对实施的所有行为都承担刑事责任？类型的不同，担责的范围也将各异。弱人工智能属于人工智能的第一阶段，该阶段的智能机器人智能程度相对较低，并不具备法律上“人”的属性，其实施行为完全是基于编制程序的控制，没有自己的独立意志。如前所述，该阶段的智能机器人就相当于无刑事责任能力人，也就没法对其进行追责。此阶段的刑事责任相对来说比较好处理，即当弱人工智能阶段的智能机器人实施犯罪行为，由于智能机器人实施行为是基于编制程序控制，并没有自己的独立意志，此时可以追究背后的设计者、使用者的相关刑事责任。具有故意的，则以故意犯罪予以处罚；有过失的，相应的就以过失犯罪进行追责；无故意、无过失的则以意外事件处理。强、超人工智能阶段的刑事责任承担问题，判断相对复杂，当然，对于强、超人工智能的犯罪行为，并非一概而论。虽然处于此二阶段的人工智能具备了自己的意志，能够辨认和控制自己的行为，但由于其毕竟还是属于人类设计的产品，无疑仍然具有被利用的风险。因此，应分两种情形进行讨论，即：第一，未超出设计、编制程序范围所实施的行为；第二，超出设计、编制程序所实施的行为。
（3）多人信任。多人信任是指大部分认定的即为正确。这种信任借用了在生活中的信任，例如：只需要一定数目的商家支持比特币支付，那么比特币就可以流通。在PoW共识中，多算力认定的数据即为正确。多人信任不仅局限于人，同时也可能为算力、权益等。目前存在的“一中央处理器（CPU）一票”思想也是基于此种信任，选举类共识机制是基于此种信任的典型代表。
（一）未超出设计、编制程序
虽然该阶段的智能机器人已经能通过学习自主判断并实施相关行为，但还不能避免被犯罪人利用进而实施犯罪行为，如智能机器人的研发者在设计和编制程序过程中加入了使智能机器人犯罪的计划、意图，抑或智能机器人的使用者利用其进行犯罪，这一系列问题都是我们应当考虑的。那么，当智能机器人实施犯罪行为时将如何处理呢？笔者认为，完全应该追究其背后的设计者或者使用者。理由如下：
1.4.1.1 引物设计和合成 从GeneBank中检索人Tim-3、TGF-β、Smad3、Smad7、Foxp3和β-Actin基因引物序列，应用DNAMAN软件设计引物，引物由上海生工生物公司合成，见表1。
其二，运用间接正犯的原理也可以很好地解释为什么未超出设计、编制程序智能机器人不能承担责任。智能机器人的出现，必然会使得一些犯罪分子为了逃避责任而故意对其利用。例如，甲为了报复乙，在自动驾驶骑车设计了识别乙并撞乙的程序，某天自动驾驶汽车果然将乙撞死。该案例中显然不能将责任直接归属于自动驾驶汽车。虽然甲没有直接实施杀人行为，但其通过自动驾驶汽车这个工具支配了犯罪实施，使得危害结果得以出现。自动驾驶汽车虽然导致结果的发生，但其实施行为并不是基于自身的意志，而是由于甲的操控与指挥。因此，甲成立间接正犯，对于自动驾驶汽车不可罚。
人之所以为人，并不是因为其肉体和精神，而是因为根据法律规则的观点，人展现了一种自我目的。［9］虽然人工智能没有肉体，但这并不是成为法律主体的充分条件。正如前述，强、超人工智能能够基于独立意志从事一系列行为，完全可以证明自我目的，实现主观意图。随着时代的发展、技术的进步以及人们理念的改变，智能机器人广泛运用于生活不再遥远。因此，将其规定为刑法上的主体是符合社会发展趋势的。
其三，尽管该阶段的智能机器人具备承担刑事责任的能力，但由于其只能在设计、编制程序内进行工作，因此，它的“犯罪”在一定程度上类似于“精神病人”无法控制自身的行为，不能对自己的行为负责，所有的行为都不能代表自身。相反，其所做出的行为都是体现其背后的设计者或者使用者的意志和目的。
Agilent 6470 液质联用仪、氮吹仪(Organomation N-EVAP)、涡旋混合器(IKA)、电子天平(METTLERAE100)、高速离心机(湖南湘仪H2050R)、Milli-Q超纯水器(Milli-Q,美国)；Atlantis dC18色谱柱(2.1×150mm,3μm)色谱柱、Waters Oasis MCX固相萃取柱(6cc/120mg，使用之前依次用甲醇3mL和水3mL活化)。
综上，笔者认为智能机器人在未超出设计、编制程序范围所实行的行为并没有自由意志，此时相当于“精神病人”或者“智能工具”，其行为完全反映的是其背后设计者或者使用者的意志、目的，虽然其具有承担刑事责任的能力，但该危害行为难以归责于智能机器人，刑事责任的最终承担者应为设计者或者使用者。当设计者和使用者为不同单位或个人时且都有故意时，此时，应成立共同犯罪；当设计者和使用者一方具有故意、一方具有过失时，应分别追究其刑事责任。但无论如何，智能机器人的行为在未超出设计、编制程序范围时，设计者和使用者都不可能与人工智能成立共同犯罪。
（二）超出设计、编制程序
目前，大多数情形下智能机器人都是在设置程序范围内实施的行为，反映的是其背后的行为人的意志，智能机器人等同于“智能工具”，因此，即使出现了危害社会的行为，也只能追究其背后的设计者、使用者刑事责任。但是，人工智能时代的到来，智能机器人将会越来越聪明、头脑只会越来越发达，当设计、编制程序无法控制到智能机器人行为时，即智能机器人完全基于自己的意志进行犯罪行为，在此种情形下，其完全能够成为独立的主体，并且能与相关人员成立共同犯罪，此时，智能机器人应当为自己的行为买单，由其承担相应地刑事责任。理由如下：
首先，智能机器人具有侵害法益的行为或危险。行为是否构成犯罪，进而追究责任，需要具备的第一要素便是客观行为是否符合犯罪构成，在阶层犯罪论体系下，满足构成要件符合性才能进一步探讨刑事责任。智能机器人实施的行为是否满足构成要件符合性，是否符合侵害行为的特征，相对来说较容易判断。例如，智能机器人A看甲不顺眼，就拿着刀砍甲，导致甲失血过多而死亡。很明显，该案例中的智能机器人A的行为具有法益侵害性且导致了结果，符合危害行为的特征，因而具备构成要件符合性。
其次，智能机器人超出设计、编制程序实施犯罪行为，也就意味着其是基于自身独立意志实施的侵害法益的行为。与客观行为相比，智能机器人的主观意图存在于头脑、程序中，较难把握，认定时也比较复杂。如前所述，强人工智能以及超人工智能阶段，智能机器人已具备独立学习以及良好的接受能力，智能机器人装备了视觉、听觉、触觉以及其他一些类似于人的感官受体，通过这些受体将接收到的信息传递给类似于人类大脑的中央处理器进行分析，从而做出自身的判断、决定。同样，智能机器人实施犯罪行为时也是基于如上过程，基于自身的学习、理解，进而做出自身决定，在一定程度上，智能机器人除了没有和人一样的肉体外，其犯罪意图也十分类似于人类。当然，和自然人一样，智能机器人既可以基于故意实施一定的行为，也可以存在过失而导致符合构成要件的结果，具体判断需根据当时的情形进行分析，如果一开始便认识到会发生一定的危害后果，并希望或放任，即构成故意犯罪；如果在当时的情形下，智能机器人认识到了可能会发生危害结果，因为疏忽大意或者过于相信自己的能力进而导致结果产生时，即构成过失犯罪；当然，也可能出现既没有故意也没有过失的情形，那么此时只能以意外事件进行处理。
最后，智能机器人具备担责的能力。承担刑事责任必须具有刑事责任能力，即辨认和控制行为的能力。［10］责任能力作为归责的重要因素，承担刑事责任当然需要具备一定的责任能力，否则就不能进行归责。如未满十四周岁的甲，为了购买游戏装备，持刀对路人乙实施了抢劫行为，并最终获得财物。本案中，虽然甲的行为具有违法性，但缺乏相应的责任能力，所以不能对甲进行归责。在强、超人工智能阶段，由于智能机器人已具备辨认和控制能力，此时不同于儿童和精神病人，当然也不同于只能在设计、编制程序范围内实施行为的智能机器人，其能正确地认识到自己的行为性质以及后果。因此，当其基于自主意识实施侵害法益的行为时，由于其自身具备承担刑事责任的能力，应当对自己的行为负责。
五、余论
也许大多数人认为智能机器人承担刑事责任的那一天永远不会到来。人们直觉上认为当前的发展速度就是未来的发展速度，但其实未来的发展速度往往超乎人们的想象。［4］2-4人工智能时代并不是一个遥不可期的时代，相反，随着技术的飞速发展，其已离我们并不遥远，人类总有一天会迎来人工智能广泛运用的局面。智能机器人虽然是由人类通过设计、编制程序支撑而成，但在许多方面已具备或将会具备与人类似的能力，并且在学习能力、理解能力方面还会超过人类。承认智能机器人刑事主体地位，不仅有利于未来刑法领域责任的划分，而且具有可行性、必要性。当然，由于现行刑法对于智能机器人应当如何承担刑事责任还无相应措施，在承认智能机器人刑事责任主体后，对于智能机器人构建具体刑罚将会成为下一阶段探讨的难点。未来在进行刑法完善时，可以增设滥用人工智能罪以及人工智能事故罪等。［11］无论喜与忧，人工智能时代终将到来！
参考文献：
［1］凤凰网.全球首例无人车撞人致死，Uber闯的祸？［EB/OL］.［2019-03-10］.http://wemedia.ifeng.com/53078531/wemedia.shtml?_cpb_xinxiliu_xgtj.
［2］封锡盛.机器人不是人,是机器,但须当人看［J］.科学与社会,2015（5）:15.
［3］刘宪权.人工智能时代的“内忧”与“外患”［J］.东方法学,2018（1）:139.
［4］RayKurzweil.奇点临近［M］.李庆城,董振华,田源,译.济南:山东人民出版社,2011.
［5］庄永廉,黄京平.人工智能与刑事法治未来［J］.人民检察,2018（1）:43.
［6］安塞尔姆·里特尔,冯·费尔巴哈.德国刑法教科书［M］.徐久生,译.北京:中国方正出版社,2010:37.
［7］刘宪权,胡荷佳.论人工智能时代智能机器人的刑事责任能力［J］.法学,2018（1）:47.
［8］彬彬.2040年机器人犯罪率将超过人类成大多数犯罪主体［J］.科学与现代化,2017（1）:135.
［9］拉德布鲁赫.法哲学［M］.王朴,译.北京:法律出版社,2005:134.
［10］高铭暄,马克昌.刑法学［M］.北京:中国政法大学出版社,2016:253.
［11］刘宪权.人工智能时代的刑事风险与刑法应对［J］.法商研究,2018（1）:8-9.
The Age of Artificial Intelligence:Who Pays for the Criminal Behavior of Intelligent Robots?
SHU Deng-wei
（Criminal Justice School,Zhongnan University of Economics and Law,Wuhan 430073,China）
Abstract: The advent of the era of artificial intelligence has given benefits to human society,but it has also brought anxiety.Reflecting in the criminal law,how to deal with criminal behaviors of intelligent robots.Intelligent robots should be recognized the status of their criminal liability subject because they have the ability to learn,recognize and control.When it does not exceed the scope of design and programming,it does not have its own independent will,it is regarded as a kind of “smart tool”,and should be pursued by the designer or user behind it.When the infringement of legal interests is exceeded beyond the scope of design and programming,due to its ability to identify and control,it has criminally responsibility at this time,and intelligent robots should independently pay for their own behavior.
Keywords: Artificial Intelligence；Intelligent Robots；Criminal Responsibility；Capacity for Criminal Responsibility
中图分类号： D914
文献标志码： A
文章编号： 1008-018X（2019）04-0021-06
收稿日期： 2019-05-07
基金项目： 中南财经政法大学刑事司法学院研究生创新教育计划资助项目（201810711）
作者简介： 舒登维（1993-），男，湖北恩施人，中南财经政法大学2017级刑法学硕士研究生，中南财经政法大学反恐中心研究员。
（责任编辑：梁念琼liangnq123@163.com）
标签：人工智能论文; 智能机器人论文; 刑事责任论文; 刑事责任能力论文; 中南财经政法大学刑事司法学院论文;