多手问题及其对负责任创新的启示
刘 战 雄
(南京农业大学 马克思主义学院，江苏 南京 210095)
摘 要： 随着现代科技创新愈加系统化，其参与者的种类和数量都远超以往，“多手问题”日益突出，进而诱发责任推诿并损害责任公正，使负责任创新难以顺利实现。因此，应采取“无立场方法”，区分责任的不同内涵，同时完善组织架构，增加透明度，以合理地进行责任归因和责任分配。
关键词： 多手问题；负责任创新；责任推诿；责任公正；无立场方法
鉴于创新对科技进步和社会发展的巨大助推作用，国家提出创新驱动发展等一系列顶层战略，并将“创新”列为五大发展理念之首。为使创新更好地造福社会，学界提出负责任创新的理念，目前其已成为实现可持续发展、推广“全局性工程”的必经之途和技术伦理的新生长点[1-2]。但现代社会是一个超级复杂巨系统，各领域的联系日益紧密和多样化，科技创新主体也随之越来越多元，其行为的长远和间接影响愈发难以预测。在此情况下，一旦出现恶效应或负效应，“多手问题”(The problem of many hands)就会使负责任创新中的责任分配与责任归因成为难题，引发责任推诿并损害责任公正。因此，亟须加强研究，以找出应对之策，塑造负责任的创新文化，促进五大发展理念的实现。
装配式住宅是一种新型建筑结构。如何保证这项新技术和新技术的建设质量是最为严峻的任务。虽然装配式住宅采用先进的技术手段，但其也受到受气候和环境的影响，其组件质量必须得到改善。施工过程中没有严格的监督，很难保证工程正常的运行。
一、多手问题概念释析
“多手问题”(也译为“多只手问题”或“多人责任问题”)原为行政管理领域概念，由D.F. 汤普森(Dennis F. Thompson)于1980年提出，指的是“由于不同的行政人员以多种不同的方式对政府的决策产生影响，因此原则上很难判定具体由谁对政策的后果负责”[3]905。汤普森同时认为，传统的集体性方式和层级性方式都不足以应对多手问题。就前者来说，既然每一成员都以各自独立但又相互影响的方式对有害后果施加了影响，那么就无人认为自己单独造成了后果。而就后者而言，责任往往被归咎于政府中级别最高的官员，但政府的实际运作并非在每一层级或环节都有明确的“命令—服从”关系和责任分工，其成员实际上处于一个交叉重叠的网络之中，其身份并不固定且易受外力影响，所以责任归因并不像人们想的那般容易。因此，必然会产生两种结果：要么认为每个人都要负责，要么认为只有集体应该为后果负责。两种方案都是智力的懒惰，更违背公平，因为无论哪种方案都没有针对个体具体责任的性质和范围等进行归责。
M.博文斯(Mark Bovens)将多手问题扩展到一般的管理领域，认为多手问题指的是“在复杂组织当中，雇员们常常在各个层级上以各种方式对组织的决策发挥作用，因而非常难以确认最终哪位雇员该为组织的行为负责”[4]。博文斯指出，多手问题首先是实践问题。复杂组织常被各种文件和规章制度环绕，组织决策在正式执行前已经过多人讨论，使更多人牵涉其中，而个人在决策流程的作用往往缺乏持续性，比如制定决策的人并不参与执行，或执行的人并无权参与决策。对局外人而言，很难辨明究竟是谁以何种方式对复杂组织的决策产生了影响，又具体产生了什么影响，所以也就难以判定应该由谁、在何种程度上对组织的行为后果负责。因此，一旦组织决策失误或执行出错，责任归因也就难以完成。其次，多手问题亦为规范问题。有时独立地看，每一成员的行为都是正确的，但这些成员行为的集合却是错误的；又或在个体层面无人违反规范，但从组织层面看却不然。在此情况下，每位成员都有责任，但又不承担全部责任，而组织作为整体则犯有明显错误。此时，不只是雇员也不只是组织违反了法律的、社会的或道德的规范，我们能否将组织应该承担的责任合理地分配到其成员身上？最后，多手问题还是控制问题。因事后无法准确划定责任归属，就容易造成事前无人认为自己有责。复杂组织中的哪位成员应该负起责任阻止类似错误行为再次发生？谁应从不合理的责任归因流程中吸取教训？这些都不明晰。如此一来，管理层就很难防止组织性的错误行为发生。
I.普尔(Ibo van de Poel)等学者认为，博文斯的定义既未能说明集体究竟是否可以作为责任主体对后果负责，又因意在找出需为后果负责的过错方而忽略了基于前瞻性视角的多手问题。因此他们认为，多手问题存在的范围很广泛，“当集体性语境中的责任分配出现缺口而产生道德问题时就会产生多手问题”[5]。后来几位学者又提炼出了一个更为形式化的定义，即“当某集体在道德上对事件或状态φ负责而无成员在道德上对φ负责时即产生多手问题”[6]52。
责任意味着付出，因此人们总倾向于逃避消极责任，所以多手问题时常引发责任推诿现象。由于任何责任都处于相互影响的系统之中，并且总是存在责任有限[9]。因此，人们很容易借机推卸责任。比如甲负责筛选方案，乙负责提供方案，而丙负责执行方案。当出现负面后果时，甲很可能认为是由于丙执行不到位或乙提供的方案不合理；乙很可能认为是由于丙执行不到位或甲未选择最优的方案；丙则很可能认为是方案本身的问题，而自己并未参与其拟定和筛选。又比如现实中，程序员常常抱怨他们无法控制用户的使用行为，设计者则责怪用户提供了不恰当的范例，而用户则希望其他两者在系统出错时承担责任[10]。
内向性女性消费者具有保守、安静喜欢独处等特点。因此，产品设计应遵循简单，低调的原则。产品选择天然原料，尽量减少香精、色素等人工添加剂。产品可以采取逆向定价法，由消费者内心价值评估逆向制定产品价格。在产品的分销渠道方面，内向性消费者更加青睐网络渠道。
二、多手问题对负责任创新的危害
问责是负责的基础，追责是尽责的前提。但多手问题则使归责难以明晰。“如果我们将责任归咎于个体，就会使无力阻止事件发生的个人遭受不公，或只是名义上负责，而未受任何惩罚；但如果我们将责任归咎于组织，则将会让组织成员遭到同等惩戒或在法不责众的情况下均被免责，而忽略了其责任性质和责任大小的区别。”[11]这将使责任赏罚机制变得低效甚至无效。而社会赏罚又是责任实现的根本调节机制[12]，当赏罚特别是惩罚不力时，行动者履行责任的动力就更多地来自内在的道德动机和态度，但与现实利益相比，道德自觉常常是脆弱的。人之所以犯错，并非因为不知其行为触犯了法律、道德、风俗、传统等规则，而是因为“人们表面上要求公正，实际上真正想要的是利益重新分配，人们想要成为世界中的既得利益者”[13]。多手问题则使此种情况更加恶化。
多手问题源自人的社会性，即人人都是社会网络的一个节点，并与其他节点相连，其任何行为都无法完全独立完成，因此其一切决定和行为都受他者影响。但由此就让他者为此人犯下的所有错误分责，这显然有违公平。多手问题的实质在于，当施责于人或归责于己，我们是否有足够合理的理由？其困难之处在于，每个人都可以找到理由来拒绝甚至逃避责任。因为规范总是情景性的，所以不同的规范难免彼此冲突，因此人们总是可以挑选对自己有利的规范为自己应负的责任开脱[8]。但此种情况往往多发生在各方尚未就责任归因达成共识之时，一旦经过多次博弈之后，客观上就会形成一个相对稳定的归责方案。
1.诱发责任推诿
M.戴维斯(Michael Davis)则指出，学者对多手问题的界定大都从局外人视角出发，其关键假设在“施责于人”而忽略很多问题是要“归责于己”。因此与其说是多手，不如说是“多因”[7]。的确如此。如谷歌自动驾驶汽车的案例：一旦出现交通事故，该由谁来负责？乍看之下，确实难以合理归责，因为用户对汽车的掌控程度已变得有限，因此不满足责任归因的能力要求。而汽车公司又未直接造成事故，也不满足责任归因的因果要求。但其实并非如此。因为通过分析事故的具体原因，是能找出相对合理的归责方案的。如果是操作失误，则应由用户负责；如果是设计缺陷，则应由谷歌负责；而如果是制造不合格，则应由厂商负责。比如2016年特斯拉车祸事故，美国官方经过调查后认为：(1)事发时特斯拉的自动驾驶系统并未出现故障；(2)事发时的状况已超出了特斯拉自动驾驶系统和自动刹车设计的适用范围；(3)自动驾驶模式下仍然需要驾驶员全神贯注。因此，特斯拉的Model S轿车半自动驾驶系统并无功能缺陷，无需召回。
对于强调所有异质行动者全面参与的负责任创新而言，多手问题是其面临的最严峻挑战之一，因为它会诱发责任推诿、损害责任公正，进而影响合作。
语言内在逻辑表现方式上的差异分析：原文最后一句采用了拟人修辞手法，形象生动，对于中国受众，是通过意会的方式领会“安全”与“幸福”，“文明”与“美丽”之间内在逻辑关系，但对于西方受众，这种逻辑关系他们不一定会理解，如果采用译文一，他们可能要问：为什么“安全”与“幸福”会“携手”，“文明”与“美丽”要“同行”？英文行文不仅要求句中各部分内在逻辑上要合理，而且要求将这种内在的逻辑关系以某种方式“明示”出来。译文二采用No…,no…句式，它表示的逻辑关系是if there were no…,there would be no…,将“安全”是“幸福”的提前，“文明”是“美丽”的基础清楚地展示给受众。
2.损害责任公正
六组学生观看聋哑演员排列整齐、动作一致地将《千手观音》表演得美轮美奂的视频，思考聋哑演员是怎样实现自我发展的？
“互联网+”背景下启迪桑德对我国环保服务企业的发展……………………………………………………陈 卓 房 进（9.82）
多手问题与责任条件密切相关。N.多恩(Neelke Doorn)指出，根据道德责任的公正标准，某人为某消极后果负责，必须同时满足以下条件：
公正是负责任创新秉持和遵从的重要价值理念，亦是判定某项创新负责任与否的重要标准。依照公正原则，应依据各利益相关者的行为对后果所产生的具体影响进行责任归因和责任分配，每个利益相关者都得其应得，但在多手问题情况下，这一追求的达致也将变得困难。
(1)行动者必须具备足够智力，对其行为有清晰意识；(2)造成后果的行为必须基于自由意志；(3)行动者须对后果有认知能力；(4)行动者的行为必须与后果之间存在因果关系；(5)行动者的行为触犯了某种规则[15]。
但集体中的行动者常常并不能同时满足这些标准。比如一名开车出去旅行的人是否应对气候变暖负责？答案似乎不应该。首先，人类迄今并无关于人类活动导致气候变化的确切知识，有科学家认为全球变暖的原因是地质周期，因此不满足条件(3)；其次，他一人的行为显然无法造成气候变暖，因此不满足条件(4)；再次，他也非故意排放温室气体，因此也不满足条件(5)。据此推论，好像无人应对气候变化负道德责任。但这显然与我们的道德直观不符。不过多手问题带来的最重要挑战并不在此，而在于即使我们同意依据道德直观所得出的结论，依然无法合理地进行责任归因。因为如果归责是合理的，就必须具体确定责任的质、量、时等因素。
依据“责任不灭定律”，“社会中不管是任何人或任何原因产生的责任，虽然表现形式多种多样，但都必须要个人或多人以及家庭、单位或政府等来承担，责任才会结束”[16]。也即，责任永远不会自动消失，一旦出现某种消极后果，必然要有行动者为此承担责任，客观上责任归因和责任分配最终总要被完成。但由于存在多手问题，总有行动者会认为自己担责过多而责任归因和责任分配方案不公，并由此引发对责任的抵抗或拒斥，阻碍负责任创新。例如雾霾问题，无论致霾还是治霾，城市都应该比乡村承担更多的责任。就致霾而言，城市的工业生产、交通及生活方式显然都比农村所排放的废气更多；而就治霾来说，城市明显具有比乡村更强大的经济条件与知识能力。但现实却是城市居民不但享有更好的社会保障条件和医疗，也更具迁徙、移民能力，社会经济地位高的居民更是如此。因此，弱势群体客观上就承担了过多的责任，这必然会引发其不公平感。更严重的是，这增加了逃避责任和寻找“替罪羊”的概率，“那些处于解释并引领公共舆论位置因而握有话语权的人常常能够把失败或困难的责任推给他人，且往往能取得很大成效”[17]。而上述两者显然违反公平。
与此类将责任推卸给弱势者相比，还有一种责任不公是将责任推卸给领导层等强势者。但尽管这些掌权者或应承担更多责任，却并不意味着他们要承担所有责任。“团体及社会责任与个人责任有关，但绝不可简单地还原为个人(特别是主管个人)的责任。”[18]哪怕这些人得到惩处，但只要普通人免除对自己错误的反省和思想的清算，也无法真正防止悲剧的重演。
三、多手问题对负责任创新实现的启示
“错误的归罪与替罪，只是对过去的蹩脚的清算，它并不能消除将来甚至当下的罪恶之源”[19]，所以多手问题才特别重要，因此必须严肃对待。就其对责任创新的启示而言，主要有以下两点。
1.采取“无立场方法”，区分责任的不同内涵
“一个立场就是一种主观观点，一个主观观点不仅是关于各种事情的一种描述和解释，而且同时充当着关于描述和解释的标准。问题就出在这里，当我们坚持某种立场或观点时，我们就以这种观点本身作为思想标准，于是，按照这种标准，其他观点处处都被‘解释为’错误的。”[20]所以，进行责任归因和责任分配时应采取“无立场方法”。在此意义上，我们便不能把立场当作论据，让某种价值对其他价值造成僭越。但这并不意味着可以随便胡思乱想，而是说任何观点都有着一定的应用域，超出其适用范围则会蜕变为谬误，在满足一系列前提条件的情况才可能是真理。所以合适的态度就是根据实际情况为不同的问题分配不同的观点，或者说为不同的观点分配不同的问题。需要特别说明的是，无立场方法在此只用于技术创新活动中的责任归因和责任分配，而非政治生活。
学者们对多手问题的定位并不一致，汤普森和博文斯倾向于将其归属到管理领域和法律领域，但普尔等学者则认为“多手”之所以是“问题”乃是因为其在道德上是有问题的。此外，多手问题的责任多是归咎性的法律责任、消极责任，而非行动性的道德责任、积极责任。尽管两者存在交叉但并不等同，前者更多的是在事后问责于人，而后者则强调归责于己和事前积极主动地去做什么以避免后果的产生，而非在事后去惩罚、去责备或去补偿，也不意味着归责后就万事大吉。比归责更重要的是从事故中吸取教训，采取措施防止类似事故再次发生。总之，道德责任比法律责任更具主动性，且参与者更多，责任时空也更广。如果针对不同角色的不同情况分配不同的责任，就可以在很大程度上避免多手问题。
并且，参与者越多，责任推诿现象就越容易发生。因为参与者越多责任链越长，人们就越容易将责任向上游追溯。同时，由于对处于责任间隔较远的行动者缺乏影响力，也容易造成找到逃避责任的借口。比如在“消费者—经销商—制造商—供应商”的链条中，如果最终产品出现问题，消费者易指责经销商质次价高，经销商易指责制造商粗制滥造，制造商则易指责供应商偷工减料。反之亦然。此外，除直接相邻环节外，消费者对制造商、供应商对经销商都缺乏足够的影响力。这必将给负责任创新带来阻碍，因为其追求所有利益相关者的共同参与，进而形成对创新风险的治理合力，但是在多手问题情况下，客观上容易造成“治理行动的责任模糊不清、互相推诿，对绩效考核和利益分配形成阻碍，导致治理执行阻滞和执行碎片化”[14]，使负责任创新难以顺利实现。
本文仍以特斯拉交通事故为例，官方给出法律责任分配方案后，只要各方接受裁决，法律责任意义上的多手问题即宣告解决。但它并不意味着此方案完全公平合理，更不意味着事情就此结束了，从道德责任角度看，仍然存在以下问题：
(1)特斯拉既然将其系统命名为“自动驾驶”，是否会给驾驶员造成可完全由汽车自行处理相关操作的心理暗示？究竟该如何合理命名自动驾驶汽车？
(2)汽车的购买、使用和事故发生时的具体操作都是用户基于自由意志做出的，是否意味着用户“本来应该”知晓其行为蕴含的风险及其可能的后果？应如何合理界定“本来应该”？
(3)事故发生后，能否让自动驾驶汽车来担责？其是否有条件负责？即使把汽车销毁是就是对后果负责了吗？进而，除通常所说担责条件外，是否还须要求担责主体具备基本担责能力，比如切实可以弥补对受害者造成的损失？但如果这样，是否又会造成无力担责(比如无力赔偿损失)则无须负责的问题？那么，应不应该就人类和人工智能体之间的责任归因做出区别性规定？如果答案是肯定的，怎样区别才合理？
行间清耕、间作小麦、自然生草3个处理按照顺序分别选定10株苹果幼树；测定2015年苹果幼树的定干高度、生长量；2016年测定苹果幼树生长状况；测定苹果幼树中心干和分枝中部的20片叶片长宽、叶柄长粗及叶绿素含量等，用数显游标卡尺测定叶片长宽和叶柄长粗；用TYS-A型叶绿素测定仪测定叶片叶绿素含量，每个叶片测4个部位。在行间清耕、间作小麦、自然生草3个处理分别选6行树，每行选一个灌溉带，调查苹果幼树成花株数和每株成花树的成花数。
通过数据计算显示：当产销量小于盈亏平衡点时，随着产销量逐渐增大，经营杠杆系数呈现逐渐减少态势；而当产销量达到盈亏平衡点时，经营杠杆则呈现无穷大(位于-2.21和+9.66x之间，显示为“#DIV/0!”)；当产销量超越盈亏平衡点时，经营杠杆系数由9.66x逐步趋近于1。利用Excel的单变量求解，可以计算出新旧模式DOL=1时的极限销量分别是6 117千件和10 769千件；同时，数据显示新模式的经营杠杆的波动始终小于旧模式。因此，在固定成本一定的条件下，企业可以通过开拓市场提高产品销量，以此降低经营杠杆系数，从而达到降低企业经营风险的目的[5]。
(4)面对这种新型汽车，交管部门是否应该对相关法规进行更新，或制定新的更具针对性的法规？
(5)进言之，政府、公众、企业等应该对自动驾驶技术持何态度？做何选择？
可见，该事件中的利益相关者所应承担的责任类型并不完全一致，若将其混为一谈，必会引发多手问题。正因如此，有学者提出了根据不同责任条件、责任类型和责任角色的归责方案：赋能职责与能力条件对应，管理职责与因果条件对应，保障职责与意愿条件对应，而信息职责与知识条件对应[21]。
王晓蕾特别针对“正确→错误”型和“错误→错误”型两种多手问题给出了不同的解决方案。针对前者，需完善制度设计并改变责任观念；而针对后者，则需要各行动者依据自身角色采取不同策略加以应对，具体见表1。
表 1“错误→错误”型多手问题应对策略
来源： 王晓蕾. “负责任创新”中多人责任问题探析[D].北京：中共中央党校，2017。
2.完善组织架构，增加透明度
正如汤普森所说，个人责任可以为人类在组织中所扮演的角色提供良好的基础[3]915，因此，多手问题的解决当然有赖于个人道德修养的提升。但在高度系统化、组织化的现代社会，集团业已成为比个人更重要的行为主体[22]。对组织性违规行为而言，往往多人参与其中，某一个体即使是领导层也很难有能力有效掌控事态的发展。比如富国银行曾在客户不知情的情况下秘密开设了两百万个未经授权的储蓄账户，并因此被处以近两亿美金的罚款，董事长离职，同时有5300多名涉案员工被开除。如果只是个别员工参与，我们可以指责这些员工道德败坏。但如此多人涉案，则必与公司架构有关。因此，当我们要求个体对后果负责的时候不应忘记，组织也是道德主体。因为有着组织目标、组织文化和组织结构的组织具有“自觉自控的自由品格”，且作为实现社会目的的社会实体，其本性也决定“组织行为具有社会影响力”[23]。所以，消减多手问题，在对个人加强道德教育之外，还应强化组织的道德属性。
首先，设立独立而有效的监督部门。这里所说的监督不只包括对个体行为的审查和制约，也包括汤普森所说的对组织本身的体系、架构的检视和改进，以使其责任流程更加透明、顺畅[24]。由于自我监督需要很高的道德觉悟，而多手问题的牵涉范围一般很广，所以监督部分必须独立，以防因为利益冲突而在责任归因和责任分配时出现偏袒而使归责方案违背公平。这样一个独立而有效的监督部门不但可凭借旁观者清的优势在事发后分析辨别个体的具体行为及其影响，对组织本身发挥的作用进行审视；还可凭借自己独特角色的权威，在事发前即对个体和组织形成压力，防止其做出违法行为。如此就可从源头上减少消极性多手问题的产生。特别是对于位高职权的相应部门和管理层，更应加强监督。因为这些部门和人员的行动自由度更大，其行为的影响范围也更广，也更容易利用权力寻找“替罪羊”。正是因为看到了独立有效监督的重大作用，普尔等学者才将其作为减少制度设置中多手问题的重要措施之一[6]217。
其次，增加组织运行的透明度。组织运行机制、组织规范等公开透明对减少多手问题至关重要，如果组织的决策机制和责任分工不透明或不明确，一旦发生意想不到的后果，就更加难以合理地进行具体责任归因和责任分配，也更容易使某些部门或组成成员为推卸责任制造借口。因此，不但应制定详尽的岗位说明，明确每一成员和部门的责任，不涉及机密的工作流程、管理机制等有关信息也应公开。比如针对行政中存在的多手问题，就必须杜绝暗箱操作，“让权力在阳光下运行”，可“设立重大决策‘台账’，记录集体决策由谁主持、谁动议、谁赞成、谁反对和谁弃权等关键信息，做到集体责任追究时‘有账可查’。”[25]
以澳大利亚、中国、英国、新加坡、美国、南非6个国家数学课程标准文本作为研究对象，以“代数思维”课程内容为例，探索“小学—初中—高中”数学课程整体设置的连贯性问题．采用内容编码、描述统计、比较研究等定性与定量相结合的研究方法，针对TIMSS经典课程分析工具“主题追踪图”（Topic Trace Mapping）的主要缺陷：主观性以及难以凸显课程重点，首创以课程标准内容条目数量设置权重的研究工具“加权主题追踪图”（Weighted Topic Trace Mapping，简称WTTM）．通过比较研究，对中国基础教育阶段“代数思维”课程内容的选择和组织进行分析和探索．
四、结 语
目前负责任创新在欧盟和国内不仅已成为科技政策的顶层设计，更成为技术伦理政策转向的重要探索模式[26]，合理的责任归因与责任分配是其得以顺利实现的前提，因此多手问题就显得尤为重要。但不管我们怎样努力，总会有难以明确归责的部分。正如有学者所言：“尽管任务分工可以减少多手问题，却无法彻底消除。我们必须承认，仅仅道德责任不足以实现道德规范。”[21]274即使无法归责的部分，只要各行动者秉持相互尊重和关怀他者的理念，在力所能及的范围之内积极行动，仍然可以更多地弥补后果造成的损失。普尔等学者就指出：“存在于关怀、道德想象和实践智慧中的作为美德的责任是解决多手问题的良方。”[6]9因此，即使那些并非由自身所造成的不良后果，我们也应该主动去履行一种附属性、升华性的剩余责任，因为“剩余责任的分配是实现损害正义的关键”[27]，如此便可以有效减少责任赤字。
参考文献：
[1] 杰伦·冯·登·霍温. 面向联合国可持续发展目标的负责任创新和全局性工程[J]. 刘欣，译. 大连理工大学学报(社会科学版)，2018，39(2)：1-5.
[2] 张志会，王前. 关于技术哲学的国际视野和中国特色的思考[J]. 哲学分析，2017，8(3)：162-172.
[3] THOMPSON D F. The moral responsibility of public officials:the problem of many hands[J]. American Political Science Review，1980，74(4)：905-916.
[4] BOVENS M. The Quest for Responsibility:Accountability and Citizenship in Complex Organizations[M]. Cambridge:Cambridge University Press，1998：4.
[5] VAN DE POEL I，FAHLQUIST J N，DOORN N,et al. The problem of many hands:climate change as an example[J]. Science and Engineering Ethics，2012，18(1)：49-67.
[6] VAN DE POEL I，ROYAKKERS L,ZWART S D. Moral Responsibility and the Problem of Many Hands[M]. Oxon:Routledge，2015.
[7] DAVIS M. “Ain’t No One Here But Us Social Forces”:constructing the professional responsibility of engineers[J]. Science and Engineering Ethics，2012，18(1)：13-34.
[8] 赵汀阳. 论可能生活：第2版[M]. 北京：中国人民大学出版社，2010：2，61.
[9] 刘战雄. 责任有限及其对负责任创新的启示[J]. 自然辩证法研究，2015，31(10)：41-45.
[10] COLEMA K G. Computing and Moral Responsibility[EB/OL]. (2004-08-10)[2018-04-20]. https:∥stanford.library.sydney.edu.au/archives/spr2007/entries/computing-responsibility/.
[11] THOMPSON D. Designing Responsibility:The Problem of Many Hands in Complex Organizations[C]∥VAN DEN HOVEN J，MILLER S，POGGE T. Designing in Ethics. New York:Cambridge University Press，2017：32.
[12] 谢军. 责任论[M]. 上海：上海人民出版社，2007：217.
[13] 赵汀阳. “坏世界”：人人共谋[J]. 上海采风,2012(1)：94-95.
[14] 王余生，陈越. 机理探析与理性调适：公共治理理论及其对我国治理实践的启示[J]. 武汉科技大学学报(社会科学版)，2016，18(4)：388-394.
[15] DOORN N. Moral Responsibility in R&D Networks:A Procedural Approach to Distributing Responsibilities[D]. Delft：Delft University of Technology，2011.
[16] 金安. 责任[M]. 成都：四川大学出版社，2005：42.
[17] STOKER G. Governance as theory:five propositions[J]. International Social Science Journal，1998，50(155)：17-28.
[18] 甘绍平. 应用伦理学前沿问题研究[M]. 南昌：江西人民出版社，2002：121.
[19] 熊培云. 这个社会会好吗[M]. 北京：群言出版社，2013：180.
[20] 赵汀阳. 一个或所有问题[M]. 南昌：江西教育出版社，1998：92.
[21] MASTOP R. Characterising Responsibility in Organisational Structures:The Problem of Many Hands[C]∥GOVERNATORI G，SARTOR G. Deontic Logic in Computer Science. Berlin:Springer，2010：284.
[22] 樊浩. 中国伦理道德报告[M]. 北京：中国社会科学出版社，2012：27.
[23] 王珏. 组织伦理：现代性文明的道德哲学悖论及其转向[M]. 北京：中国社会科学出版社，2008：12-14.
[24] THOMPSON D F. Responsibility for failures of government:the problem of many hands[J]. American Journal of Public Administration，2014，44(3)：259-273.
[25] 赖先进. 集体责任如何追究[N]. 学习时报，2015-03-16(06).
[26] 薛桂波，闫坤如. “负责任创新”视角下技术伦理的政策转向[J]. 大连理工大学学报(社会科学版)，2018，39(1)：9-14.
[27] 张乾友. 损害正义与剩余责任——损害性事件中的责任分配[J]. 道德与文明，2017(1)：50-56.
The Problem of Many Hands and Its Enlightenment for Responsible Innovation
LIU Zhanxiong
(School of Marxism ,Nanjing Agricultural University ,Nanjing 210095 ,China )
Abstract ：As the modern scientific and technological innovations are becoming more systematic, the stakeholders have increased in terms of category and number. As a result, the problem of many hands has become increasingly serious, which induces responsibility shift and damages the justice of responsibility, making it difficult to realize responsible innovations. In order to attribute and apportion responsibility reasonably, we should adopt“never-fixed-views”, distinguish the different implications of responsibility, improve the framework of organizations and increase the transparency of processes.
Key words ：problem of many hands； responsible innovation； responsibility shift； justice of responsibility； never-fixed-views
中图分类号： B82
文献标识码： A
文章编号： 1008-407X(2019)05-0094-06
DOI： 10.19525/j.issn1008-407x.2019.05.012
收稿日期： 2018-05-21;修回日期： 2018-09-17
基金项目： 国家社会科学基金青年项目：“人工智能负责任创新研究”(19CZX016)；国家社会科学基金项目：“技术创新的实践哲学研究”(16BZX025)；江苏省教育厅高校哲学社会科学项目：“农业转基因技术负责任创新研究”(2018SJA0035)
作者简介： 刘战雄(1985- )，男，河北邢台人，讲师，博士，主要从事负责任创新、技术创新哲学、马克思主义技术哲学研究，E-mail：liuzhanxiong19@foxmail.com。
标签：多手问题论文; 负责任创新论文; 责任推诿论文; 责任公正论文; 无立场方法论文; 南京农业大学马克思主义学院论文;