社交网络的暗面：仇恨言论的“魔道之战”

这年头但凡接触过网络，一定近距离感受过仇恨言论的力量。

无论是跑到别人评论区下面谩骂的个人暴力，还是发泄对政府、社会不满的吐槽，亦或是带有歧视排外极端色彩的危险发言，反正总有一款网友教你做人。

网络“仇恨值”近年来已经已经发酵到了“难承其重”的程度，成为不少全球恶性恐怖事件的源头。

大家想必都听说了，就在8月3日，美国一天时间内留发生了两起公共伤害事件，造成30多人死亡。加上今年3月的新西兰清真寺事件， 4月份以的美国加州犹太教堂事件，这些凶手被发现都是种族歧视的捍卫者，动手之前都曾在网络上分享过自己的行程与仇恨理念，这显然不是巧合。

一场全社会与仇恨言论之间的战斗正在展开，但成果远没有我们想象中那样卓有成效。

一场抵御仇恨的全民战争

“仇恨”，似乎是一个离普通人生活很遥远的事情，不幸的是，它正在变得越来越接地气。

2003年，卢旺达国际刑事法庭审理的“仇恨媒体案”，对两名散播仇恨言论的前媒体负责人分别判处了终身监禁和35年监禁的刑罚，这是国际法庭首次对媒体进行仇恨言论的限制。

但这种规制很快在互联网的冲刷下成了过去时，人们往常理解的“仇恨”也逐渐发生变化：

首先是言论主体变了。起初，利用网络传播仇恨言论的活动者，大多是一部分极端主义者，随着所有智能手机用户都开始参与社交网络讨论，助长了仇恨言论的扩散，直接导致相关群体迅速壮大。

（8月3日美国德州街头惨案现场，人们在寻找亲人）

其次是攻击范围变得更广。二战后欧洲国家出于抑制种族和宗教仇恨等原因开始对仇恨言论进行立法规制，但在网络环境下，仇恨言论的议题正在变得越来越广泛。对外来者、难民、穷人的抵制，对其他种族、性别、地域群体的歧视，这些“抱怨”和侮辱性语言，看上去似乎并不能产生即时性的危害，却让极端的仇恨犯罪行为变得更加隐蔽，令监管丧失警惕。

社交链的加强也变相推动了事实性犯罪的增加。仇恨泛化的大背景下， 一些极端主义者更容易通过社交网络获得支持。现实中互不相识的极端分子正在网上寻找彼此，并试图“一起”发动袭击，制造叠加的恐怖主义事件。比如8月3日美国惨案的凶手克鲁修斯，案发之后就得到了8chan网络社区用户的大量讨论和普遍赞扬，这种社区氛围更容易激励其他人犯罪。

（白人极端主义造成的案件，是最具杀伤力的事件之一）

累觉不爱的同时，大家可能会疑惑，在这场“仇恨抵御战”中，政府和互联网巨头们都扮演了什么样的角色，为什么没有拿出行而有效的治理手段。

政府+巨头的阳谋，以及小众网站的暗面

公平地说，在控制网络仇恨言论这件事上，各国政府与科技巨头们前所未有地统一战线和团结。

2016年5月，欧盟委员会宣布与Facebook、Twitter、YouTube和微软就控制网络不法仇恨言论展开合作，互联网巨头们集体签署了一项行为准则，承诺“接到举报后24小时内屏蔽和删除相关仇恨言论”。

2018年，监管再次加码，没在规定时间内下架相关内容，将面临高达5000万欧元的罚款，平台们还必须每六个月上报一次自己对违法内容的处理结果。

而各大平台也表示出了高度的配合，甚至到了舍生忘死的程度。比如Facebook 和 Twitter 对 ISIS 的极端言论采取了严厉的封杀态度，还一度引发了恐怖分子的不满，在网站上发布恐吓视频，展示了一张扎克伯格与杰克多西（Twitter 创始人）中弹的照片进行威胁。

报告显示，Facebook在2018年7月至9月期间删除了约290万条仇恨言论，去年一举封禁了259个涉嫌发布和传播支持恐怖分子材料的账号。借助机器学习，YouTube上超过95％的仇恨内容能在24小时内被屏蔽。

既然政府机构打击态度很强硬，平台们也拿出了“一生悬命”般的魄力在治理，为什么近年来仇恨言论诱发的暴力事件依然屡禁不止呢？原因总结起来大概有四点：

第一，关于“仇恨言论”目前尚未有权威的定义，这就造成了不同国家、不同公司、不同机构在执行审查时，缺乏一个统一的信息评价标准去有效认定非法信息，难以把握分寸，让治理措施充满了不确定性，且缺乏预见性，直接影响处罚效果。比如欧洲人权法院与网络言论有关的三起案件中，对可以明确定义为仇恨言论的网站经营者进行了追责，而对具有侮辱、诽谤性质的攻击性语言并没有进行处罚。

第二，仇恨言论与表达自由之间的冲突仍未解决。言论自由已经成为根深蒂固的社会文化，这就导致舆论导向容易“慕虚名而处实祸”。单纯以立法的手段来管理，会直接遭遇多样化的阻碍而阻碍治理的推进。此前美国对网络管理的一些立法就多次受到社会团体的否定，最终被法院裁决为违宪。

第三，监督仇恨言论的公共性质与网络市场化的博弈。一些西方发达国家更倾向于通过市场调节和行业自律来对网络进行监管，但互联网的商业化运作对市场的依赖性很强，运营商逐利的天性决定了其不可能真正从社会公众利益的角度来规范管理，所以客观上就导致了行业自律行为比较脆弱。

举个例子，德国司法部曾给Facebook开出200万欧元的罚单，原因是对涉及仇恨言论的内容，Facebook提供的举报入口不如其他准则清晰。再比如，埃尔帕索案发生后， 8chan创办者布雷南要求现任管理者华特金斯父子与CDN 提供商Cloudflare关停网站，但这二位都拒绝了这种呼吁。

（8chan 的创造者Fredrick Brennan，是一名脆骨症患者）

第四，小众网站的崛起与暗面。

Facebook和Twitter等大型网站，在删除危险内容方面更加积极主动，使其社交生态不太适合恐怖分子，而无障碍的交流才是社交的第一要义，于是，诸如8chan之类的小众网站就有了机会。

用户活跃与广告分发是小站生存的根源，因此平台有时会刻意放纵审查，比如8chan就把自己当作言论自由的乌托邦，任何发言都会受到欢迎，不管它有多毒，平台都几乎完全无动于衷。另外小站的人员不足，社区运营能力也比较弱，也无力对UGC内容进行严格的监管。

在反诽谤联盟（anti-defamation league）的CEO乔纳森格林布拉特看来，“最坏的罪犯会在那里分享他们的可怕想法，这些思想被放大和扩展，最终，人们被激化”，诱发更多的大规模伤害事件。8chan也正如网站主题所显示的那般，成为“互联网最黑暗的地方”。

这种现状还有可能改变吗？

告别乌托邦：欠发达国家的内容监管之路

对比之下我们发现，一些亚洲和欠发达国家，总体市场化的程度不高，但极少爆发出类似仇恨言论的恶性事件。

原因之一，是许多亚洲国家传统文化中一直强调集体利益和公众原则，所以在互联网的管理上，在保护用户权利的同时也非常强调公共利益，更加注重借助政府的行政效力，通过各类刚性措施来保证互联网的规范化运转，这就解决了网络仇恨言论“该不该管”的问题。

其二，一般情况下，多数国家的网络内容审查都采取的是“事后追惩”模式，也就是在违法行为发生以后才通过法律予以追究，不做普遍的预先审查。而许多亚洲国家的做法是主动防御，将普遍过滤的预先审查与人工干预的后期抽查相结合，来防范仇恨言论“禁区”。

举个例子，韩国的实名制措施就对网络世界起到了非常明显的净化效果，新加坡广播管理局SBA从1996年开始实施分类许可证制度，有可能从事非法内容服务的互联网服务商都需要申领许可，并保证最初最大努力删除法律禁止的内容。越南、缅甸等国更严格的措施也基本杜绝了问题的出现。

当然，这些亚洲国家的管理方式也存在一些问题，比如说过度依赖行政手段，从而限制了互联网产业的发展，新传播技术的潜在效能没能够在社会生活中充分彰显。

从这些探索的失利与不利中，不难看到，互联网内容安全监管是一项庞大的工程，需要各种手段跟极端分子斗智斗勇，行政、立法、技术、产业等的参与缺一不可。

如今中国正在内容监管领域紧锣密鼓地部署，争取在产业效率与网安风险上达到理想化的平衡状态。仇恨言论“该怎么管”，其他国家的前车之鉴或许能带来不少启发。

而网络世界里的魔道斗法，注定将持续交战下去，永不止步。