人工智能导致的法律挑战及其政策调适
王志新
摘 要： 人工智能正在深刻改变人类社会的生产生活方式、社会交往模式、法律和社会伦理准则，给现有法律体系带来了一系列挑战。文章提出，要加快构建人工智能的技术规范和法律制度，并围绕核心技术、人才培养、标准规范、伦理道德及政府监管等方面作出部署，为保障和促进人工智能技术的创新发展提供良好的法律制度和政策环境。
关键词： 人工智能；法律挑战；治理
人工智能得益于互联网、大数据、超级计算、传感网、脑科学等领域的卓越进步，在教育科研、工业生产、媒介娱乐、交通出行、医疗保健、金融服务、军事安全等领域都有了突破性进展，为经济社会发展注入新动能。“科学进展是一种悲喜交集的福音。”①人工智能深刻改变了人类社会的生产生活方式、就业结构、社会交往模式、法律和社会伦理准则，同时对政府管理、经济安全和社会稳定也带来了新的风险和不确定性。国务院在《新一代人工智能发展规划》中指出：“加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架。”我们要对人工智能的法律风险充分预估，构筑人工智能法律防范机制和治理体系，确保人工智能运行安全可靠，向造福人类的方向发展。
一、人工智能发展导致的法律挑战
人工智能技术发展分为弱人工智能、强人工智能、超人工智能3个阶段。现阶段整体上仍处于弱人工智能阶段，关注重点是工业机器人、服务机器人、自动驾驶、智能识别、专家系统、自动规划等领域。这些领域可能带来的法律问题主要涉及人工智能损害赔偿、个人隐私与信息保护、就业与社会保障、知识产权与创新激励、信息垄断与贫富分化加剧等议题，这在民事主体地位、知识产权的获得、刑事责任、侵权责任承担、个人隐私的人格权保护等方面给现有法律体系带来了一系列潜在的冲击和挑战。②
临床可见部分患病猪关节肿胀，体温升高，不食或厌食。对出现病变严重的病猪进行解剖后发现，病猪浆膜出现浆液性炎症变化，心包积液增多；肾脏红肿；脾脏肿大呈暗红，包膜有纤维素沉着；淋巴结红肿；肝脏肿大；关节腔内滑液增多，严重者关节软骨坏死，关节周围组织有多发性化脓灶。
本文利用自主设计加工的一种试验装置，测定了不同掺量粉煤灰混凝土的水和气体(氮气)渗透系数；同时，用NMR测试了试验混凝土的孔隙率及其孔径分布等微观结构参数。基于测试结果，研究了粉煤灰掺量对混凝土的水、气体渗透性及微观结构参数的影响，分析了粉煤灰混凝土的水、气体渗透性与其微观结构参数之间的关系。
1.人工智能给立法带来的挑战
在人工智能时代的初期阶段，围绕人工智能技术展开的立法相对有限，在不同法律领域出现了一些空白地带。以当前流行的“无人驾驶汽车”为例，由于技术发展已经相对成熟，无人驾驶汽车进入市场应用领域有着旺盛的立法需求。无人驾驶汽车应用的是人工智能，在行驶中出现交通事故谁来承担法律责任，是车主还是车企，抑或是汽车自身？如果人工智能不负有法律责任，那么就会牵涉到多方的法律责任主体，整个责任理论基础面临解构的风险。③2017年10月25日，沙特阿拉伯正式授予机器人索菲亚公民资格。智能机器人究竟是法律关系中的主体还是客体，权利能力何时起始和何时终止，行为能力如何分级？索菲亚的出现使得传统的法律主体制度产生动摇。在人工智能时代，大量的新闻稿甚至诗歌、绘画、谱曲等作品可能由智能系统创作。据美国Narrative Science预测，未来15年将有90%的新闻稿件由机器人完成。机器人撰写的稿件，是否享有版权?”④从刑法来看，我国只规定了自然人犯罪和单位犯罪两种类型，如果人工智能产品出现了伤害人类的情况，或者以造成人类伤亡为目的的人工智能产品出现，人工智能是否承担与自然人同等的刑事责任？这都是值得我们深思的问题。
2.人工智能给执法带来的挑战
①卡尔·雷门德·波普尔.科学革命的合理性[J].纪树立，译.世界科学译刊，1979（8）：1.
回眸这节课的两个教学片断，均构出了一番精彩的学生活动，体现了思维教学的魅力．虽然是解析几何中直线与圆的复习课，但给我们的感觉是更加以思维为主，为使学生的思维能再上新台阶，洞悉此类问题的本质，设计学生的学习过程借助一定的教学环境进行自我建构、自我成长和自我发展，通过“师生互动”、“反思交流”等多种学习方式，突出了学生的主动性、参与性和交流性，从而使学生的主体性得到充分的发挥，思维教学的活动自然可以达到好的效果．让人听来受益匪浅，想来感受颇多．
3.人工智能给司法带来的挑战
新技术的诞生、发展和使用离不开一套完整的发展标准和科学的管理制度，中国人工智能产业发展的迅速崛起得益于政府制定了国家层面的宏观发展计划，且具有很强的执行力。我国应成立国家层面的人工智能监管领导委员会。该委员会首先应承担人工智能统筹发展职能，统筹决策人工智能发展战略，对人工智能技术和社会应用实施战略布局和统筹推进，建立关于人工智能产业发展的战略目标、战略任务和战略措施的政策制度体系。委员会将承担政府部门、技术部门、行业和社会之间综合协调功能，建立整个国家的大数据资源平台，促进公共数据开放共享，为人工智能的发展提供系统化数据资源。委员会也将承担技术标准的监管责任，通过设定自动驾驶汽车、家用服务机器人等相关产品的准入门槛、行为标准以及要求强制披露风险活动的信息，建立第三方检测评估、检测、认证和审批制度，对不符合监管标准的AI产品禁止推向市场。最后，委员会应致力于推广中国技术标准走向世界，与国际标准化组织合作构建国际技术联盟，谋求在人工智能某些细分领域的全球领导者地位。
在制定人工智能的法律规范发展战略的同时，我国应加快制定相关伦理规范，引导人工智能产业发展方向。首先，应当抓紧制定伦理规范。可由人工智能产业组织牵头，借鉴国外关于人工智能伦理规范的最新成果，构建我国人工智能伦理规范，确立人工智能发展的价值基础。目前，较有影响的人工智能伦理准则，除了阿西莫夫“机器人三大法则”之外，还包括IEEE、未来生活研究院等分别发布的伦理方案。我国应在参考这些伦理方案的基础上，制定与我国国情和人工智能发展水平相适应的伦理框架。其次，还应要求人工智能研发机构、制造厂商及行业组织设立人工智能伦理委员会，明确技术伦理规则的审查程序，并将其植入设计与制造过程之中。第三，应当促使伦理约束与法律规制有效衔接，使部分人工智能伦理准则转换为具有国家强制力的法律规范，实现人工智能从业者自律与他律、德治与法治的有机结合。
4.人工智能给守法带来的挑战
低频重复经颅磁刺激辅助药物治疗老年脑梗死后焦虑抑郁患者的效果……………………… 平萍 巴春贺 张鸿霞 等（1）55
二、全球人工智能法律规则架构
法律是人的有限理性的产物，是调整经济—社会关系、保证社会各项事业和谐发展的重要手段。面对人工智能这样一项正处在飞速发展阶段的复杂技术，我国关于人工智能技术方面的法律还没有一套成文的体系，世界主要国家也没有规范人工智能技术发展的通用法律。为了更好地促进我国人工智能产业发展，应加快制定符合我国基本国情的人工智能法。在人工智能的立法原则方面，要坚持处理好创新发展和危害防范的关系、系统性立法与细分领域单独立法的关系、近期弱人工智能与远期强人工智能的关系、国内立法与国际规则的关系。未来人工智能立法要突出重点领域。人工智能快速发展带来的法律问题主要有主体问题、算法歧视、数据隐私和保护、知识产权归属、责任划分和承担。因此，我国人工智能立法的重点立法范畴可包括人工智能的法律主体地位、人工智能成果权利归属、人工智能损害后果的责任划分、人工智能风险的技术标准和法律控制等。人工智能领域发展快、问题新、涉及面广，要想建立一整套完善的法律制度不可能一蹴而就，应在国家层面成立专门的人工智能立法工作组，召集行业专家、法学专家和社会学专家对人工智能领域的新问题、新挑战进行集中研究论证。
1.制定人工智能技术发展的国家战略
近几年来，为了在新一轮科技产业竞争中掌握主导权，美国、日本、英国、德国、欧盟等国家和地区加紧布置人工智能发展战略。2016年，美国接连发布《为未来人工智能作好准备》《国家人工智能研发战略规划》《人工智能、自动化与经济报告》等多份重量级报告，成为世界上首个将AI发展上升为国家战略层面的国家。2017年，美国正式发布了《国家机器人计划2.0》《人工智能与国家安全》报告，以“整个政府”为框架，提出了关于人工智能技术的国家安全政策目标和发展建议。英国政府在20世纪80年代就推出了阿尔维计划，扶植发展软件工程、人机交互、高级微电子技术领域。2014年7月，英国发布《机器人技术与自主系统的2020年国家发展战略》。2016年10月，英国下议院科学和技术委员会发布《机器人技术和人工智能》报告，提出要成为AI系统的道德标准的全球领导者，明确政府目标、财政支持等细节。2016年以后，英国公布“现代工业战略”以及《英国数字战略》《在英国发展人工智能》，将人工智能发展上升到国家战略层面，要求政府和企业对人工智能提供进一步的支持。韩国2008年制定了《智能机器人开发和普及促进法》，日本政府则讨论了人工智能创作出的作品的著作权立法问题。我国正处于全面建成小康社会的决胜阶段，人口老龄化、资源环境约束日趋加剧，要实现经济的高质量增长，中共中央、国务院非常重视人工智能技术的发展应用。习近平总书记在《致2015世界机器人大会贺信》中指出：“中国将机器人和智能制造纳入了国家科技创新的优先重点领域，我们愿加强同各国科技界、产业界的合作，推动机器人科技研发和产业化进程。”⑥2016年，“人工智能”写进了国家“十三五”规划纲要；2017年，“人工智能”首次出现在《政府工作报告》中。2017年，国务院印发的《关于印发新一代人工智能发展规划的通知》提出了“到2030年，人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心”的战略发展目标。政府的顶层设计，有助于加强我国AI的基础研发投入，制定数据统一标准和跨平台的共享，创建数据友好的生态系统。
2.明确人工智能技术的行业标准
人工智能的发展应用离不开安全、伦理、隐私保护标准化的重要支撑，从而保证人工智能技术对安全性、准确性、可信赖性、可追溯性、可解释性要求。人工智能技术标准涉及人工智能本身、平台、技术、产品和应用相关的安全标准，国内外对人工智能标准化工作越来越重视。国际专业技术组织电气和电子工程师协会（IEEE）发布了多份人工智能伦理标准，分别对系统设计中伦理问题、自治系统透明度、个人信息的伦理问题、算法负偏差、儿童和学生数据安全、人工智能代理等方面进行规范。国际标准化组织（ISO）和国际电工委员会（IEC）联合技术委员会（JTC1）专门负责信息安全领域标准化研究与制定工作的分技术委员会，ISO/IEC JTC1/SC27/WG5相继制定了身份管理和隐私保护的ISO/IEC 29100系列标准。在中国，全国信息安全标准化技术委员会（TC260）自2002年成立以来，在生物特征识别、汽车电子、智能制造等部分人工智能技术、产品或应用安全方面展开标准化技术工作。《信息安全技术虹膜识别系统技术要求》《信息安全技术汽车电子系统网络安全指南》《信息安全技术个人信息安全规范》《信息安全技术大数据服务安全能力要求》等国内标准已经相继发布和实施。由阿里主导的《大数据安全与隐私过程》（项目编号ISO/IEC 27045）国际标准项目进入工作组草案阶段，这意味着中国的数据安全技术和管理经验有望成为国际标准，为全球化数据安全管理提供参考方案。
3.颁布人工智能的法律规范
技术的不恰当应用会在社会上引起不良后果，对其应用进行法律规范，防止损害生命、环境和人的尊严。以克隆技术为例，对于是否可以进行人类的克隆，有着巨大的争议。部分国家设立专门的法律条款，明确规定禁止克隆人类。许多国家还进一步规定不对胚胎干细胞相关的技术方案授予专利。⑦人工智能也是一项尚未完全成熟的技术，需要完善现行法律法规。2017年9月6日，美国众议院通过了《自动驾驶法案（Self Drive Act）》。该修正案全文包括十三个章节，其中，第四章、第五章、第六章内容提出自动驾驶汽车的安全标准、网络安全要求以及豁免条款，这是美国首次在联邦层面对自动驾驶汽车的监管进行立法。与美国相比，欧洲和日本在政策法规层面对自动驾驶持更谨慎的态度。2017年5月，德国联邦议会和参议院对《道路交通法》进行了修改，允许高度自动化和完全自动化的汽车作为交通工具上路，但没有允许自动驾驶汽车变成“无人驾驶”汽车。自动驾驶系统启动之后，司机可以转移注意力，比如，去读书或上网，但必须保持足够的警觉，以便在系统发出请求时恢复人工控制。同时，还要求高度或完全自动化汽车安装记录驾驶过程的黑匣子，如果自动驾驶模式正在运行过程中发生了事故，责任在于汽车制造商；但如果自动驾驶系统已经发出了请求人工控制的信号，责任便转移到了汽车上的驾驶人员身上。在自动驾驶领域，美国、德国、欧盟等在这方面的立法都走在世界前列。我国北京、上海、重庆等城市已经出台试行政策，比如，《北京市关于加快推进自动驾驶车辆道路测试有关工作的指导意见（试行）》和《北京市自动驾驶车辆道路测试管理实施细则（试行）》，支持自动驾驶汽车测试。我国也应该尽快启动自动驾驶领域的法规的研究与立法，为自动驾驶领域的创新提供一个良好的法律与制度框架，跟上国际社会的步伐，探索适合我国国情的自动驾驶解决方案。
三、人工智能的未来治理构建
人工智能对当下的伦理标准、法律规则和社会秩序带来了一场前所未有的挑战。“没有规矩不成方圆”，我们在推进智能技术实现“弯道超车”、提升国家竞争力的同时，也要加快构建人工智能的技术规范和法律制度。围绕核心技术、顶尖人才、标准规范、伦理道德及政府监管等方面作出强化部署，为保障和促进人工智能技术的创新发展提供良好的制度和政策环境。
1.加快推进人工智能立法
法律是规范人工智能的研发与使用的最佳选择。近年来，美国、英国以及德国等世界科技强国高度重视人工智能法律规则的部署，为产业发展提供强有力的制度保障。美国学者2012年起持续开展名为“We Robots”的机器人法律与政策专题年会；欧盟亦于2012年起开启了第七框架计划“机器人法”研究项目；2007年，日本经济产业省出台《下一代机器人安全问题指导方针(草案)》，以规范机器人的研究和生产；韩国也颁布了《机器人道德法》作为机器人制造者和使用者以及机器人本身的道德标准和行为准则。
2.加大政府监管力度
人工智能技术正在应用于法律实务工作。2017年4月20日，最高人民法院印发的《关于加快建设智慧法院的意见》提出，“运用大数据和人工智能技术，按需提供精准智能服务”。“人工智能+法律”的各种应用场景逐步落地。智慧法院、智慧检务、智慧仲裁、智能法官大大提升司法机关办案的效率和判案精准性，智慧律所、智能律师用法律AI替代人力查阅卷宗、查询文献条律、庭审记录、问答咨询等重复性的法务工作，能够节约律师的劳动时间，降低律师费用。司法领域“人工智能+法律”的智能化实践提升了司法效率与司法公信力，但也需要警惕潜在的风险：一是法律AI的准确性问题。法律AI的推理模式分为知识推理和数据推理，这两种模式都存在一定的局限性。机器法官能够快速处理简单的案件，当出现新型犯罪、新罪名的时候，法律AI的准确度会明显降低。二是法律AI很难像人类一样兼顾人文关怀和道德伦理。司法判断技能是由人的智性与心性、灵性共同融入而形成的综合体，人的心性与灵性很难被模拟为数据化和智能化，此种技能与行为并不能全部转换为算法而智能化。⑤
3.抓紧出台相关伦理规范
2.4 疾病隐患 岸边水陆交叉污染带容易滋生各种病菌和病原体，加上消落区域泥沙淤积，使得病菌难以扩散，容易诱发各类流行疾病，危害动植物的健康和生长。
4.加强人工智能+法律的人才培养
人工智能能提高法律职业工作效率，其在创造法律职业岗位的同时也在改变传统的法律行业。《新一代人工智能发展规划》中提出，要重视复合型人才培养，“重点培养贯通人工智能理论、方法、技术、产品与应用等的纵向复合型人才，以及掌握‘人工智能+’经济、社会、管理、标准、法律等的横向复合型人才”。法学教育必须密切关注社会对法律服务与依法治理的需求变迁，实现法学教育理念的智能转型，引导法学专业学生掌握人工智能在司法领域分析问题、解决问题的思维和方法。高校要探索和实践人工智能背景下学校、专业和课程、教师的转型，进行课程改革和教学模式的更新，培养新时代复合型法律服务人才。各级司法机关要善于运用人工智能，更好地落实便民利民要求，不断满足人民群众零距离沟通、即时性互动、无障碍共享等新需求，不断提高民众的法治素养。
思想家卢梭曾说，一切法律中最重要的法律，既不是刻在大理石上，也不是刻在铜表上，而是铭刻在公民的内心里。全民守法是依法治国的基础，法治社会建设是法治国家建设的基石。在“人工智能+法律”的时代，普通老百姓可以通过法律人工智能进行在线互动，掌握相关法律规则，甚至通过App软件咨询，选择是否进行法律诉讼；人工智能AI将宪法、法律、法规、规章、规范性文件、司法解释、指导性案例、公报案例形成的复杂法律体系嵌入到决策层面，人类既不需要理解法律，也不需要权衡行为的合法性，根据人工智能优化了的微指令就可以作出法律决定。法律的权威源自人民内心的拥护和信仰，学法是守法和信仰法治的第一步，人工智能取消了人们的学法过程，也就不能真正培育公民的法治精神。
引文注释
人工智能为政府治理能力现代化、政府决策科学化、治理体系精细化、行政执法高效化提升打开了智慧之窗，以“最多跑一次改革”为代表的行政审批服务便民服务便是其中的典型案例。行政执法工作经历了纸张年代、数字年代、智能年代，人工智能开启了大数据助力行政执法信息化变革的黄金时代。深度学习能力可以让政务系统像人一样去思考，打破政府部门间的行政数据壁垒，形成智能社会、智慧政府甚至智慧国家。然而，人工智能在为提升政府治理带来机遇的同时，也可能给传统的行政管理、行政执法带来挑战。一是对政府技术能力提出的挑战。政府在利用人工智能的背后，是一套完整信息数据系统支持系统。这就需要有一个有效的行政执法智能系统，实现整个政务流程信息化、数据化以及信息数据资源的完整统一与共享。二是对执法流程提出的挑战。作为技术手段的人工智能，并不能解决行政权力结构性缺陷导致的效率低下问题，只能通过执法工作流程的优化重组，才能将行政执法服务从简单的流转效率提升转变为整体效率提升。三是对行政执法的合法性挑战。人工智能执法从证据的整合到制定执法方案，实际是机器意志对人类行政执法的替代，将违背人类的行政执法伦理。
②吴汉东.人工智能时代的制度安排与法律规制[J].西北政法大学学报，2017（5）.
③王勇.人工智能时代的法律主体理论构造——以智能机器人为切入点[J].理论导刊，2018（2）：63.
④杨延超.机器人来了，法律准备好了吗[N].检察日报，2016-6-17（5）.
埃及青年艾哈迈德·赛义德大学时主修中文，来到宁夏担任“首届中阿经贸论坛”翻译后，因看好中国发展机遇的他决定留下来，与宁夏大学毕业的张时荣等一起创业，成立智慧宫文化产业集团（下称“智慧宫”）。他还给自己起了一个中文名字白鑫。
⑤钱大军.司法人工智能的中国进程：功能替代与结构强化[J].法学评论，2018（5）.
⑥习近平.致2015世界机器人大会贺信[N].光明日报，2015-11-24.
⑦张吉豫.人工智能良性创新发展的法制构建思考[J].中国法律评论，2018(02)：108-118.
DOI： 10.16653/j.cnki.32-1034/f.2019.011.014
[基金项目： 本文系宁波市软科学项目“智能经济大潮下人工智能（AI）法律制度、道德规范、伦理准则及其政策调适问题研究”（项目编号：2018A10030）阶段性研究成果]
（作者单位：宁波工程学院马克思主义学院）
标签：人工智能论文; 法律挑战论文; 治理论文; 宁波工程学院马克思主义学院论文;