美国就“深度伪造”展开的法律争论
文/李学尧 上海交通大学法律与认知科学中心教授、博士生导师
随着“深度伪造”（Deepfake）技术的发展，人类扭曲现实的能力正呈现指数级的飞跃。社会媒体导向的信息环境，进一步加剧了“深度伪造”与社会认知偏差相互作用的危害性。它的危害性已经远远超越了在色情视频中改头换面等类似对隐私权的侵害，这项颠覆性技术被很多人认定为是美国政治传统以及国家安全的严重威胁。随着美国2020年大选的不断临近，一系列试图运用“深度伪造”技术来操纵公众舆论和选举结果事件的出现，比如众议院议长南希·佩洛西（Nancy Pelosi）一段被篡改的视频的不断流传，使得“深度伪造”成了当下美国公共生活中一个重要的负面话题。在诸多学者支持下，美国联邦和州层面，最近两年也一直有很多议员不断地提出专门针对“深度伪造”的法案。在此，本文试图对“深度伪造”最近在美国法律界引发的讨论做一个简略介绍，以为国人思考法律如何规制颠覆性技术提供更为宽广的思考路径。
当事人难以企及的民事救济
根据马里兰大学戴妮拉·斯琼（Danielle Citron）教授的总结，与人们想象不同的是，由于造假视频所采用的源图片往往来自网络的人脸或者身体，这使得以“闯入私人场所或者侵犯原告的私人隐居”为判断标准的隐私权很难被适用于对“深度伪造”行为的救济。她认为，对于“深度伪造”的被害者来说，通过民事法律的途径来对“深度伪造”进行救济，诉讼理由主要有诽谤、故意施加情感痛苦等，也有一部分侵权行为可以通过版权、形象宣传权（Right Of Publicity）的救济来实现，但这种民事救济对于当事人来说是难以企及的。
可分两个层次进行，首先要建立健全水行政执法信息统计系统，全面掌握我国水事违法案基本情况，为“两法衔接”机制建设提供技术支撑。建议国务院水行政主管部门加快建立国家层级的水行政执法信息统计系统，各流域管理机构、省（自治区、直辖市）建立本区域范围的执法信息统计系统，实现水利系统内部水行政执法信息共享，同时为刑事司法机关查阅相关信息提供便利。其次，按照国家 “行政执法与刑事司法衔接信息共享平台”的要求，将“水行政执法统计信息”纳入共享平台中，实现各级水行政执法机关、公安机关和检察机关的相互监督制约，及时发现涉嫌水事违法犯罪线索，加大打击犯罪力度。
第一个障碍是证据技术。从技术上说，由于“深度伪造”的创建者往往采取匿名的方式，确定与“深度伪造”来源相关的元数据，在证据层面还不足以识别创建者。更复杂的是，“深度伪造”还会经历当事人之间可能并无串通的多重造假。这使得受害者寻找创建者基本不大可能或者成本高得离谱。
（图/视觉中国）
第二个障碍是，“深度伪造”的侵权者往往身在美国境外，因此超出了美国法律程序的有效范围，并有可能身在法律诉讼效果不佳的司法管辖区。即使创建者身份确认并能够对其进行有效的司法追诉，但由于高昂的跨境诉讼费用，也很容易让当事人犹豫是否有必要花费这些费用。更重要的是，诉讼会进一步引发公众的注意，很多当事人出于避免声誉进一步受损等原因，而不得不放弃民事诉讼的途径。
更重要的，侵权法对诉讼理由的审查门槛往往很高。在美国的司法判决中，法院经常以宪法第一修正案规定的言论自由权为由，驳回有关新闻报道中的形象宣传的权利诉求；证实“故意施加情感痛苦”则需要“极端和无耻行为”的证据。此外，“深度伪造”行为的因果关系确定也很难。
难以全面奏效的刑事救济
由于民事法对遏制“深度伪造”问题的巨大缺陷，很多学者和立法者很自然地向刑事法寻求解决之途。美国国会最近提交的关于“深度伪造”的法案，很多都将关注点放在通过刑事途径检控“深度伪造”行为。但是，美国很多学者对此途径的有效性提出了质疑。
老太太突然“哼哼”地冷笑了一声：“你们好会做戏。”老太太冷声说道，突然又面目狰狞，厉声吼道，“若不是我那天眼睛短暂复明，只怕要被你们这对畜生欺骗一辈子了！”
很快就到了检验他们的时候。我和他们商定，月考之后，解忧杂货店就要开展第一次活动。我向他们保证，家委会会提供足够的物力、财力、人力，让他们放心大胆地折腾。他们满心欢喜，个个摩拳擦掌，恨不得马上一试身手。
采取行政监管方式，来对网络上的不当行为进行监管，是当下公共治理的普遍趋势。然而，很多学者质疑采用行政监管对“深度伪造”进行有效监管的效果。总体而言，能够介入“深度伪造”行为的行政监管措施主要集中在竞争法、打击虚假新闻以及国家安全。
尽管如此，法律上仍然可能会对联邦贸易委员会介入监管存在诸多的制约：第一，《通信规范法》第230条对网络平台设定了著名的“安全港”原则，它规定了平台的豁免权，即不必对用户的“深度伪造”行为承担侵权责任。第二，与不正当竞争相关的“深度伪造”行为，主要是制作假新闻，这会引发联邦贸易委员会是否拥有管辖权的争议。
管辖权存在普遍争议的行政监管
在学术辩论中，很多学者认为，通过刑事法来规制“深度伪造”的效果有限。主要原因在于：第一，在历史上，美国的执法部门对网络侵权的刑事打击一直不积极。同时，由于专业技术以及装备的缺陷，美国州和地方的执法部门往往无法有效地追查网络骚扰案件。对于使用的技术门槛极低的“深度伪造”行为，司法资源有限的刑事执法部门的打击能力并不被看好。
对于打击虚假新闻来说，其他可能具有管辖权的包括联邦通信委员会、选举委员会、国土安全部等。其中，对于联邦通信委员会来说，类似脸谱的网络平台是否能被纳入“电信服务”的保护范围，在法律解释上会存在争议。联邦选举委员会对网络行为的监管主要通过政治广告和筹款行为的透明度义务，但在实践中，遭到了脸谱和谷歌等在线广告平台的抵制。它的相关监管方式，显然不足以解决“深度伪造”的一般性问题。
第二，除了上述所说的网络骚扰和诽谤行为之外，“深度伪造”更严重的社会危害——对国家安全和社会公共秩序所造成的深远负面影响，比如，对大选的非法介入、煽动暴乱、对种群关系的有意撕裂等（包括外国各种势力通过深度伪造技术达成上述目的的行为），现有的刑事法尚无法完全涵盖，并且还很容易遭遇到宪法第一修正案有关言论自由的“阻碍”。在讨论中，很多美国的学者也基于言论自由权的保护，而对有关“深度伪造”的立法和刑事法遏制路径提出了明确的反对意见。甚至一些学者比如哈佛大学尼曼实验室乔舒亚·本顿（Joshua Benton）指出，“深度伪造”行为与人类历史以往的谎言等没有本质区别，根本不会影响美国的大选结果。
一部分“深度伪造”行为会涉及商业欺骗以及引发不公平竞争的问题。根据《联邦贸易委员会法》第5节以及《联邦反倾销法》的类似规定，商业欺骗行为会遭遇民事处罚、禁令救济等行政处罚。在此之前，美国联邦贸易委员会已经就用户的数据处理问题进行调查，并与脸谱公司达成和解；同时，他们也介入了对剑桥分析公司泄露用户数据案的调查。所以，如果采用“深度伪造”技术来实施“不公平和欺骗性的商业行为”，联邦贸易委员会启动相关的程序是可预期的。
“互联网+”时代让教育走向开放，计算机教师在提升知识水平的同时还要努力参与新媒体下教学方式的变革，灵活运用翻转课堂、微视频、慕课等“互联网+”教学手段，积极探索和实践“互联网+”环境下的教育教学规律、途径、方式方法，优化和转变教学方式的意识和能力，提升专业教学能力。教师只有掌握丰富的专业知识，才能创新多种新型教学模式，以培养学生的学习兴趣，激发学生学习积极性。教师教学水平的提升可帮助学生解决实际操作中的问题，促进学生运用能力和专业技能的提升。因此，为了培养学生的计算机应用能力，学校和教师需重视自身教学水平的提升，进而培养出高质量人才。
出路：平台的自我治理
美国很多学者认为，由于《通信规范法》第230条对网络平台设定了著名的“安全港”原则，即网络用户利用网络发布信息对第三人构成侵权的时候，应当给予网络服务提供者较为充分的保护。这导致网络平台往往免于因用户的“深度伪造”行为承担民事和刑事的责任。也正因如此，在提交的大量针对“深度伪造”的立法法案中，很多法案内容就将矛头指向了平台责任豁免的第230条。比如，美国众议院情报委员会主任亚当·斯夫（Adam Schiff）等人提出了《“深度伪造”责任法案》（Deepfakes Accountability Act In The House)，同时认为美国国会应该考虑修改《通信规范法》第230条，以规范和限定网络平台的责任豁免权，以建立一种平台的合理审核机制。上文提及的戴妮拉·斯琼（Danielle Citron）提出要修订第230条，规定社交媒体平台必须采取“合理的内容节制”，以换取保留诽谤诉讼的法律豁免权。
目前最适用于“深度伪造”行为的刑法条文主要是联邦网络跟踪法（Federal Cyberstalking Law)18 U.S.C. 2261以及相关的州法律。根据第2261节的规定，使用任何“交互式计算机服务或电子通信系统”以“合理预期会造成实质性情感痛苦”的方式来“恐吓一个人”构成了重罪，被告会因此受到最高至五年刑期和25万美元罚金的刑事惩罚，侵犯禁令的重犯者还可受到额外的刑罚。此外，“深度伪造”行为也可能涉及诽谤罪、伪造罪（Impersonation Crimes)等。
当然，这种立法建议在学术界和实践界也受到了较多的反对。这些反对声音主要还是基于美国宪法第一修正案的言论自由权，即将对“深度伪造”行为的审核责任强加于平台责任，会对自由表达创造出新的障碍，最终会损害美国之一的立国之本。因此，有较多学者认为，对“深度伪造”行为的限制，在立法上应只限于适用禁止报复性色情的法律，其他的规制应依赖于媒体从业人员的职业伦理和平台企业的社会责任。
在现实中，尽管现有的法律豁免了平台企业对“深度伪造”行为的侵权责任，然而平台企业在实践中通过与用户的服务协议（TOS），事实上都在积极努力地响应用户的筛选和删除请求（尽管当事人仍然有些不满意）。比如推特就一直禁止模仿的技术；谷歌则一直反对和打击性骚扰的政策。在此前拒绝删除佩洛西被篡改视频的脸谱，也表示会追踪识别假视频，对其进行有效标识，并在推送时对其进行淡化处理。这昭示着，事情可能没有那么悲观，通过某种平台企业的社会责任或者自我治理的机制，可能仍然可以达到有效遏制“深度伪造”负面影响的效果。
在这里，我们或许可以隐约地看到一种新的法律原则的浮现，即“技术正当程序”（Technological Due Process）的原理。在这种原则下，出于保护言论自由、促进教育和艺术的进步等目的，平台企业并不会贸然地删除“深度伪造”的视频或者其他作品，并对其保持在线，但是，通过伪造标识或者从推送名单中将其删除，以此来减少其危害性并保持某种社会价值观的平衡。当然，这种正当程序原则能否得到有效的发展，最终还是有赖于平台企业能否通过技术进步及其成本控制方式，有效地识别“深度伪造”行为，并能承担对“深度伪造”行为自我审查的高昂费用。
该如何监管颠覆性技术
毋庸置疑，20世纪90年代至今，美国的网络产业以及其他科技产业，之所以在世界上一直保持着领先地位，是与其有意无意地进行适合科技创新的法律制度改革，比如网络平台责任的放松、知识产权规制的缓和、员工禁业竞争义务豁免、“国有资产保护的解放（比如，允许创业者免费使用通过财政经费资助形成的知识产权）”等法律改革措施有着密不可分的关系。除此之外，美国法律界对于颠覆性技术立法规制的讨论，对我们的启发是，在寻找对颠覆性技术的有效规制措施时，有时候完全可以从已有的规制体系中寻找到监管资源；同时，并不需要事事都要通过立法或者重建一种制度来解决问题（比如通过立法给平台企业明确授权），市场或者企业自身就能在“山穷水尽”时，“柳暗花明”地自我创建出一种自我监管的方案。
基于脑电信号和极限学习机的警觉度检测研 究 ……………………… 杨米红，李会艳，孙晓舟，秦迎梅（23）
标签：网络平台论文; 创建者论文; 颠覆性技术论文; 上海交通大学法律与认知科学中心论文;