学术前沿｜徐俊：网络仇恨言论治理的平台责任研究|163

网络仇恨言论治理的平台责任研究

徐俊

作者简介

徐俊，北京大学法学院2014级法学博士研究生，英国牛津大学访问学者，主要从事互联网反垄断等相关法律政策以及国际经济法研究。

摘要

中国目前正面临日益严重的仇恨言论问题，突出表现在网络仇恨言论十分泛滥。虽然中国目前并没有针对仇恨言论的专门性法律，但是相关规定散见于宪法、刑法、民法和行政法等法律法规。至于网络仇恨言论的治理，内容方面，需要明确网络仇恨言论的边界与范畴；责任方面，网络平台需要承担一些特殊侵权责任与注意义务。

关键词：仇恨言论；间接侵权；注意义务

引言

仇恨言论，是指在仇恨意图的指引下，基于民族、种族、国籍、性别和宗教等身份特征所为的引发群体间歧视和仇恨的一种言论类型。在中国，对于仇恨言论这个概念，中国的立法机构、司法机构和学界尚无一个广受认可的定义，且中国没有专门规制仇恨言论的单行法律，而是根据仇恨言论的类型，由不同的法律分别加以规定。

中国宪法赋予每一个公民言论自由的权利，但仇恨言论主要是诽谤信息和攻击性的言语，往往压制弱势群体的声音，无助于实现言论自由的三大价值目标：追求真理、健全民主政治和实现个人自治。此外，英国自由主义大师约翰密尔曾提出对言论自由可以加以限制的“伤害原则”：防止对他人造成伤害是限制行动自由和言论自由唯一的正当理由。仇恨言论往往对受害人往往造成身心上的损害，引发社会对立与动荡，给国家稳定造成威胁，已经超出了言论自由的合理边界，需要受到法律的管制。

从法律框架上看，中国规制仇恨言论的法律架构是宪法作原则性规定，民法和刑法负责具体实施。具体到网络仇恨言论，网络平台是治理此类言论最重要的主体，网络平台不仅需要承担宪法、民法、刑法和行政法上规定的一般责任，同时中国法律还对其设置了特殊的侵权责任规则，特别是在间接侵权的情形之下。此外，行业自律也是网络平台一项重要的责任来源。

一、仇恨言论治理的法律框架

（一）宪法规定

中国《宪法》（2004年修订）第4条规定：禁止对任何民族的歧视和压迫，禁止破坏民族团结和制造民族分裂的行为。此外，中国《宪法》第36条保护宗教信仰自由，不得歧视信仰宗教的公民。第38条规定中国公民的人格尊严不受侵犯，禁止用任何方法对公民进行侮辱、诽谤和诬告陷害。第33条规定，凡具有中国国籍的人都是中国公民，中国公民在法律面前一律平等。可以说，仇恨言论所包含的民族、宗教或性别等歧视都为中国宪法所禁止。不过中国的宪法不具有司法性，不会作为法院裁判案件直接的法律依据，相应的禁止性内容需要通过具体的民法、刑法等部门法来实施。

（二）民法规定

随着中国媒体的商业化，以及政治环境的宽松，对于民族宗教、男女平等、性取向等公共议题在大众媒体上都可以进行自由的讨论，但不可避免地会出现一些歧视言语，甚至是攻击性的仇恨言论。

1.男女平等和性取向方面的仇恨言论

在中国，部分地区还存在着“重男轻女”的思想，此外部分公民对性少数人群还带有一定偏见，对于这些方面的仇恨言论，受害人可以以名誉受损为由，主张民事赔偿。中国《民法通则》（2009年修正）第101条规定：公民、法人享有名誉权，公民的人格尊严受法律保护，禁止用侮辱、诽谤等方式损害公民、法人的名誉。

2.地域歧视方面的仇恨言论

地域歧视与民族歧视不同，地域歧视是一个民族内部的“区别对待”。由于文化、经济的差异和不平等，同一个民族之间也会产生偏见。地域歧视通常表现为言语攻击，在网络上，多表现为地域笑话、地域攻击言论等，甚至一些影视作品、戏剧也会掺杂若干地域歧视的言论。在中国，由于城乡之间发展差异比较大，东部沿海地区与中西部地区经济发展不平衡，在网络上经常能看到城市对于农村人的地域歧视，以及对于中国特定几个省份（如河南、新疆）的歧视性言论，每当有公共事件发生时，地区歧视在网络上经常表现为激烈攻击性、侮辱性言论。因此，地域歧视方面的仇恨言论违反了中国《宪法》第33条明确规定的平等权——“中华人民共和国公民在法律面前一律平等”。

（三）刑法规定

1.有损个人人格尊严的仇恨言论

《刑法》（2015年修正）第246条规定“侮辱罪”，以暴力或者其他方法公然侮辱他人，如果同一诽谤信息实际被点击、浏览次数达到五千次以上，或者被转发次数达到五百次以上的或者造成被害人或者其近亲属精神失常、自残、自杀等严重后果的，可以处以三年以下有期徒刑。同时，该条还规定了“诽谤罪”，特别是利用信息网络诽谤他人，如果引发公共秩序混乱的、引发民族、宗教冲突的或者诽谤多人，造成恶劣社会影响的，将被认为属于严重损害国家和社会公共利益，也是处以三年以下有期徒刑，并且是由国家公安机关侦查处理。˙

2.民族方面的仇恨言论

中国还存在一些非法的出版物和影视广播，极力宣扬民族仇恨，破坏民族间平等、团结、互助的关系。对于此类已经传播，损害社会利益和国家安全的仇恨言论，情节轻微的，由《治安管理处罚法》（2012年修正）处理，严重的则借助《刑法》对传播者施以刑罚。

《刑法》第249条规定了“煽动民族仇恨、民族歧视罪”，指故意用语言、文字或者其它方式煽动民族仇恨、民族歧视，情节严重者，可以处三年以下有期徒刑、拘役或管制。《刑法》第250条还规定了“出版歧视、侮辱少数民族作品罪”，对于在出版物中刊载歧视、侮辱少数民族的内容，主要是指少数民族的风俗习惯，具体而言即是指55个少数民族在生产、居住、饮食、服饰、婚姻、丧葬、节庆、礼仪等一切物质生活和精神生活里的喜好、崇尚和禁忌等，也可以处三年以下有期徒刑、拘役或管制。

虽然这两个罪名都可以规范民族领域的仇恨言论，但有若干区别：首先，煽动民族仇恨、民族歧视罪则主要侵犯的是民族平等、团结的权利，而“出版歧视、侮辱少数民族作品罪”侵犯的主要是少数民族保持或者改革本民族风俗习惯的权利；其次，犯罪对象不同，“出版歧视、侮辱少数民族作品罪”侵犯的只是55个少数民族；而煽动民族仇恨、民族歧视罪侵犯的则是包括汉族在内的全部56个民族。最后，犯罪客观方面不同，煽动民族仇恨、民族歧视罪表现为以语言、文字或者其他方式煽动民族仇恨、民族歧视，其煽动的方式虽也可以采取文字作品的方式，但并非仅限于此，要比“出版歧视、侮辱少数民族作品罪”广泛得多。

3.宗教方面的仇恨言论

对于宗教方面的仇恨言论，在中国更多属于宗教极端主义思想。所谓的极端主义思想，中国法律认为其是以歪曲宗教教义或者其他方法煽动仇恨、煽动歧视、鼓吹暴力等的言论。并且，宗教极端主义思想是恐怖主义的思想基础，防范和惩治极端主义活动是反恐怖主义的重要治本之策。特别是在互联网时代，需要重点打击利用手机、互联网、电子文稿、音像制品等新手段，宣扬、传播恐怖主义、极端主义或者传授恐怖犯罪方法。

中国是一个统一的多民族国家，有55个少数民族，信仰的宗教主要有基督教、伊斯兰教、佛教和道教等。在中国的历史和文化中，维护国家统一具有无比重要的地位，而民族和宗教问题的仇恨言论，极力鼓吹暴力和恐怖主义，往往与民族分裂和宗教极端主义有关，对中国的领土统一和国家安全造成严重威胁。因此，任何可能会引发民族冲突和宗教矛盾的仇恨言论都可能危及国家统一和安全，因此中国《刑法》第103条和105条分别规定，煽动分裂国家、破坏国家统一的，或者以造谣、诽谤或者其他方式煽动颠覆国家政权、推翻社会主义制度的，此类仇恨言论都可以纳入“危害国家安全罪”的范畴。

（四）行政法规定

对于不同的媒体部门，中国分别颁布了《广播电视管理条例》（1997年）、《电影管理条例》（2001年）、《期刊管理条例》（2005年）和《报纸出版管理条例》（2005年），要求这些媒体部门的经营者对于刊载或放映的内容进行自我审查，不得包含《出版管理条例》（2011年修正）第25条规定禁止性内容，主要有：（1）煽动民族仇恨、民族歧视，破坏民族团结，或者侵害民族风俗、习惯的；（2）侮辱或者诽谤他人，侵害他人合法权益的；（3）危害社会公德或者民族优秀文化传统的。如果违反规定，事后媒体将会受到限期停业整顿、没收违法所得、罚款乃至吊销营业执照的行政处罚。

二、网络平台的定义与网络仇恨言论的范畴

网络的兴起和发展，为言论的繁荣提供了前所未有的平台支持，中国的民众也越来越喜欢在论坛（BBS）、博客（Blog）等“自媒体”平台上发表自己的意见和看法，并且在微信、QQ等聊天工具中讨论各种话题。由于网络发布便捷、传播速度快、波及范围广的特征，仇恨言论在网络传播过程中难以被控制，同时匿名性进一步加大了追踪信息来源和个人责任的难度，结果网络成为了中国仇恨言论的重要宣泄之地。

为了应对日益增多的网络仇恨言论带来的管制挑战，中国一方面在内容上定义网络仇恨言论的范围，哪些网络言论属于仇恨言论；另一方面，从责任主体出发，为网络服务提供商和内容提供商设置特殊的责任规则。

（一）网络服务提供者的定义

严格来说，网络平台并不是一个法律概念，其属于中国法律上所指的“网络服务提供者”。可惜的是，中国的法律、法规及司法解释中，并未对“网络服务提供者”一词作出明确的解释，而且在不同的法律、法规和司法解释中，出现了意同名不同的表述，这使得概念术语的使用极为混乱。

在《侵权责任法》第36条中使用了“网络服务提供者”这一概念，但并未对其进行具体的解释或分类。在《信息网络传播权保护条例》中，按照其提供服务的种类，将网络服务提供者分为网络自动接入、自动传输服务提供商，系统缓存服务提供商，信息存储服务提供商和网络搜索、链接服务提供商。在国家版权局和信息产业部联合发布的《互联网著作权行政保护办法》中，将“网络服务提供者”表述为互联网信息服务提供者。在《关于审理涉及计算机网络著作权纠纷案件适用法律若干问题的解释》中，则仅明确解释了网络服务提供商，对其他类型的服务商则用网络服务商这一整体概念来代替。由于缺乏法律上的定义，本文以网络服务提供者（ISP）指代所有网络平台。

（二）网络仇恨言论的范畴

早在2000年，中国国务院制定的《互联网信息服务管理办法》第15条就对网络言论的内容进行立法规制，以下网络言论在中国将可能被认定为网络仇恨言论：（1）破坏民族团结、煽动民族仇恨和民族歧视的言论；（2）破坏国家宗教自由、信仰自由政策的言论；（3）侮辱或者诽谤他人，侵害他人合法权益的言论；（4）散布暴力、凶杀、恐怖或者教唆犯罪的；以及（5）危害国家安全，颠覆国家政权，破坏国家统一的言论。

随后中国陆续出台了《关于维护互联网安全的决定》（2000年）、《互联网电子公告服务管理规定》（已失效）、《互联网站从事登载新闻业务管理暂行规定》（2000年）、《互联网文化管理暂行规定》（2011年修订）、《非经营性互联网信息服务备案管理办法》（2005年），《互联网视听节目服务管理规定》（2007年）以及《电信条例》（2014年修订）等10多部法规或部门规章，对网络仇恨言论内容的规定与《互联网信息服务管理办法》的规定保持一致。

此外，《网络安全法》第9条规定，任何个人和组织使用网络应当遵守宪法和法律，不得利用网络从事危害国家安全、宣扬恐怖主义和极端主义、宣扬民族仇恨和民族歧视、侮辱诽谤他人和其他合法权益等活动。

当然，《互联网信息服务管理办法》规定的五种网络言论禁止情形并不全部属于网络仇恨言论，还需要结合言论发布者的侵害意图和伤害后果等因素综合判断。在中国，恐怖主义言论和极端主义言论毫无疑问属于仇恨言论的范畴。2016年实施的《反恐怖主义法》有助于进一步定义和甄别网络仇恨言论，该法规定引发社会恐慌、影响国家决策、制造民族仇恨、颠覆政权、分裂国家的思想、言论和行为将直接被认定为恐怖主义。破坏宗教自由的言论，如果属于通过网络诋毁、侮辱、歧视其他民族和宗教，或者以言论恐吓方式驱赶其他民族和信仰其他宗教的人员离开居住地，或者在网络上歪曲、诋毁国家宗教政策、法律、行政法规等，属于极端主义言论，进而也属于网络仇恨言论。

三、网络服务提供者在

网络仇恨言论治理中承担的平台责任

中国法律对于网络服务提供者同样设置了刑事责任、民事侵权责任和行政责任。根据《互联网信息服务管理办法》第20条的规定，制作、复制、发布、传播仇恨言论，构成犯罪的，依法追究刑事责任；尚不构成犯罪的，由公安机关、国家安全机关依照《中华人民共和国治安管理处罚法》、《计算机信息网络国际联网安全保护管理办法》等有关法律、行政法规的规定予以处罚：对经营性互联网信息服务提供者，并由发证机关责令停业整顿直至吊销经营许可证，通知企业登记机关；对非经营性互联网信息服务提供者，并由备案机关责令暂时关闭网站直至关闭网站。

至于网络服务提供者特殊的侵权责任，中国现行法律主要由《侵权责任法》第36条和最高人民法院《关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》构成。

（一）直接侵权

网络上的直接侵权是指网络服务提供者利用网络直接实施侵害他人权益的加害行为，在主观上具有故意或者疏忽大意，适用过错责任制。中国《侵权责任法》第36条第1款规定：“网络用户、网络服务提供者利用网络侵害他人民事权益的，应当承担侵权责任。”界定网络服务提供者因仇恨言论构成直接侵权比较简单，只需要判断网络服务提供者是否有直接制作、复制、发布或者传播仇恨言论的行为即可。

（二）间接侵权

网络上的间接侵权指的是网络服务提供者没有直接实施侵害他人合法权益的行为，但在明知或者应知他人即将或正在实施直接侵权行为时，为其提供实质性帮助或者对直接侵权造成的扩大损害不作为。间接侵权行为同样适用过错责任制，网络服务提供者承担责任的法律基础在于没有尽到注意义务，而不是对网站等载体的所有权关系。

中国《侵权责任法》第36条第2款规定：网络用户利用网络服务实施侵权行为的，被侵权人有权通知网络服务提供者采取删除、屏蔽、断开链接等必要措施。网络服务提供者接到通知后未及时采取必要措施的，对损害的扩大部分与该网络用户承担连带责任。同时第3款规定：网络服务提供者知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。

1.信息披露义务

根据《侵权责任法》第36条第2款和第3款的规定，如果网络服务提供者（ISP）可以以仇恨言论系网络用户发布为由主张免责，但由于网络的匿名性，受害人往往难以知道侵权人的真实身份，就难以追究侵权人的责任。中国《民事诉讼法》第108条的规定，起诉必须有明确的被告，原告是与本案有直接利害关系的公民、法人和其他组织。因此，网络服务提供者需要承担信息披露的义务。

（1）义务来源

根据中国《互联网信息服务管理办法》第14条规定：从事新闻、出版以及电子公告等服务项目的互联网信息服务提供者，应当记录提供的信息内容及其发布时间、互联网地址或者域名；互联网接入服务提供者应当记录上网用户的上网时间、用户账号、互联网地址或者域名、主叫电话号码等信息。互联网信息服务提供者和互联网接入服务提供者的记录备份应当保存60日，并在国家有关机关依法查询时，予以提供。

（2）披露内容

根据《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》第4条，网络服务提供者有义务向法院提供能够确定涉嫌侵权的网络用户的姓名（名称）、联系方式、网络地址等信息。

（3）义务披露的方式

世界上主要存在两种网络服务提供者信息披露的模式，即通常所说的私力模式与公力模式。所谓私力模式，即无须借助于国家机构与司法程序，而由受害人直接向网络服务提供者主张的模式。所谓公力模式，即被害人无权直接要求网络服务提供者披露行为人的真实身份信息，而只能经由司法程序向法院提起，由法院责令服务提供者披露涉嫌侵权之网络用户的身份信息。在利用互联网侵犯著作权案件中，采用私力披露模式，由著作权人向网络服务提供者索要侵权行为人的网络注册资料。在利用互联网侵犯人身权的案件中，如网络仇恨言论侵犯他人名誉权案件，则采用的是公力披露的模式，网络服务提供者有义务向法院提供能够确定涉嫌侵权的网络用户的个人信息。

2.“通知－删除”制度

如果网络服务提供者（ISP）与网络仇恨言论的发布者之间并不存在合意和共谋，二者只是仇恨言论的信息传递载体，在这种情况下，网络服务提供者（ISP）需要承担“通知－删除”的责任。网络服务提供者（ISP）如果接到仇恨言论受害人的通知，应立即采取删除、屏蔽、断开链接等必要措施，阻止言论进一步公开传播。如果某些网络仇恨言论被认定为恐怖主义或者极端主义言论，根据《反恐怖主义法》第16条规定，网络服务提供者（ISP）应当立即停止传输，删除相关仇恨言论，保存相关记录，并向公安机关或者有关主管部门报告。此外，中国《信息网络传播权保护条例》也规定，对提供信息存储空间或者提供搜过、链接服务的网络服务提供者（ISP），权利人认为其服务涉及侵权行为的，可以向网络服务提供者（ISP）发出通知，告知其基本的侵权事实。网络服务提供者（ISP）接到通知后应当立即删除侵权内容或者断开侵权链接。

（1）有效通知的内容和形式

在被侵权人发出的通知应该达到一定的内容和形式的要求，即构成一个有效的通知，这是被侵权人行使通知权利时必须履行的义务。根据《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》第5条，通知可以采用书面形式或者网络服务提供者公示的方式，并且通知应该包括以下内容：通知人的姓名（名称）和联系方式；要求采取必要措施的网络地址或者足以准确定位侵权内容的相关信息；知人要求删除相关信息的理由。

（2）存在瑕疵的通知的效力问题

在被侵权人提供的通知有轻微的瑕疵时，如提供的网络地址有误、被侵权人的身份信息不准确、没有提供权属证明材料等，则可以认定通知不符合条件，网络服务提供者可以主张免除没有及时删除信息的责任。

（3）何谓“及时”采取措施

如果网络服务提供者（ISP）没有及时措施，阻止仇恨言论进一步在互联网上公开传播，对损害的扩大部分与网络仇恨言论的发布者承担连带责任。根据《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》第6条，认定网络服务提供者采取的删除、屏蔽、断开链接等必要措施是否及时，应当根据网络服务的性质、有效通知的形式和准确程度，网络信息侵害权益的类型和程度等因素综合判断。

（4）反通知

网络服务提供者对通知审查之后，在采取必要措施的同时，应将通知书转送所谓的“侵权人”，即网络用户。当网络用户接到网络服务提供者的通知之后，认为其提供的内容或作品并未侵犯他人权利时，可以向网络服务提供者提供书面说明，要求恢复所采取的删除、屏蔽、断开链接等必要措施，这就是所谓的反通知规则。根据《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》第7条和第8条的规定，网络服务提供者对于被采取删除、屏蔽、断开链接等措施的网络用户不承担违约责任或者侵权责任。此外，因通知人的通知导致网络服务提供者错误采取删除、屏蔽、断开链接等措施，请求通知人承担侵权责任。

3.注意义务

如果网络服务提供者明明知道网络用户利用其网络服务实施侵权行为，却不采取必要措施，可以认定为构成帮助侵权，应当对全部损害与网络用户承担连带责任。关键问题是，如何判断网络服务提供者“知道”？即网络服务提供者应该承担多大程度上的注意义务。

最高人民法院《关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》第9条，法院认定网络服务提供者是否“知道”，应当综合考虑下列因素：

（1）网络服务提供者是否以人工或者自动方式对侵权网络信息以推荐、排名、选择、编辑、整理、修改等方式作出处理；（2）网络服务提供者应当具备的管理信息的能力，以及所提供服务的性质、方式及其引发侵权的可能性大小；（3）该网络信息侵害人身权益的类型及明显程度；（4）该网络信息的社会影响程度或者一定时间内的浏览量；（5）网络服务提供者采取预防侵权措施的技术可能性及其是否采取了相应的合理措施；（6）网络服务提供者是否针对同一网络用户的重复侵权行为或者同一侵权信息采取了相应的合理措施；（7）与本案相关的其他因素。

关于网络服务提供者承担的注意义务：一方面，网络服务提供者没有普遍审查义务。司法实践中，应当谨慎认定此类网络服务提供者是否“知道”网络用户利用其网络服务实施侵权行为。如判断标准过宽，可能会使网络服务提供者实际上承担了普遍审查的义务，可能大量增加网络服务提供者的运营成本，阻碍网络产业的发展。另外一方面，中国法律没有根据网络服务提供者的不同类型，制定不同的注意义务内容，例如相比提供电子公告或者即时通讯的网络服务提供者，提供接入、缓存服务的网络服务提供者的注意义务就应该更低。

四、互联网企业通过行业自律

积极应对网络仇恨言论

在中国，抵制和消除网络仇恨言论，不仅依靠法律法规的监管，互联网行业协会和互联网企业也发挥积极和正面的作用。2001年，中国成立互联网协会，协会以制订并实施互联网行业的规范和自律公约、充分发挥行业自律作用为目标。

从2001年开始，互联网行业协会先后制定了《中国互联网行业自律公约》、《搜索引擎服务商抵制违法和不良信息自律规范》、《文明上网自律公约》、《博客服务自律公约》、《中国互联网协会短信息服务规范》等行业自律公约，其中要求互联网企业和其他互联网参与者，自觉遵守国家有关互联网信息服务管理的规定，自觉履行信息服务自律义务，包括不制作、发布或传播以下言论：危害国家安全、破坏国家统一的；煽动民族仇恨、民族歧视，破坏民族团结的；破坏国家宗教政策；宣扬暴力、凶杀、恐怖的。

在行业自律公约之外，中国互联网企业也会采取联合行动，抵制网络仇恨言论。例如2014年11月，腾讯网等29家中国网站签署《跟帖评论自律管理承诺书》，诚请所有网站用户不发表包括“煽动民族仇恨、民族歧视，破坏民族团结的”在内的18类信息，并对违反上述要求的网络用户视情况采取预先警示、拒绝发布、删除跟帖、短期禁止发言直至永久关闭账号等管理措施。对涉嫌违法犯罪的跟帖评论将保存在案、并在接受有关政府部门调查时如实报告。具体到各个平台企业，以中国社交媒体为例，腾讯的《微信软件许可及服务协议》、新浪《微博服务使用协议》和百度《贴吧协议》也都有类似的规定。

《汕头大学学报·网络空间研究》，2017年第9期，第93-97页。徐俊《网络仇恨言论治理的平台责任研究》

中图分类号：D923 文献标识码：A

文章编号：1001-4225（2017）09-0093-05

本文的专有出版权归《网络空间研究》所有，

转载请保留文章完整，注明出处。

《网络空间研究》

第33卷总第176期

刊号：ISSN1001-4225 CN44-1058/C

学术委员会主席：郑永年

主编：方兴东

汕头大学学报·网络空间研究

投稿邮箱：stuiii@163.com