为什么我们在网络上越来越仇恨彼此？

经历过聊天室、论坛、贴吧、小组、微博等一系列互联网聚集讨论形态/工具的大多数人，可能都会伤感于一个事实——在二十年时间里我们生生把一切都撕裂了。早期那种一派祥和的“世界大融合”之梦早已经破灭，如今在网络上任何一个无足轻重的小问题，都会引起暴力语言相向，形容这种对峙的流行词汇序列也从吵架、喷、怼、diss、杠……一路发展壮大，本月初《财新周刊》上的一篇专栏文章《为何如此仇恨陌生人》就责问了公众舆论场中的这种明刀暗箭：林志玲结婚，本应收到美好祝福，评论区却一片谩骂不堪入目；留守女童被租客莫名杀害，悲痛万分的家长还要收到无数“不配做父母”的诅咒。

而全球范围内，网络仇恨更是引发了青少年自杀的惊人增长、性别不平等地区女性处境进一步恶化、对公众人物的威胁、卷土重来的反西方言论，等等，而传统价值体系在这些污流面前几乎不堪一击。近年来，四面楚歌的媒体们意识到，对抗这种异化和分裂，需要科技力量的介入。

8月24日，《自然》针对3天前发表在该杂志上的《全球仇恨生态的隐藏弹性和适应动力学》研究快报做出评论，总结了当前社交平台禁止仇恨的方法如此无力的原因，并介绍了作者们通过对网络仇恨群体动态的分析所提出的四个潜在对付策略，巧的是，该科研论文的主要作者Neil Johnson正是as此前一篇推送《社交媒体的黑暗面》的作者。今天我们就继续来给大家介绍一下这位用物理模型分析网络“暗流”的科学家的最新进展。

与网络仇恨作战的策略

文 Neomi Derzsy

翻译 as

网络仇恨生态系统是如何在社交媒体平台上持续存在的？我们可以采取哪些措施来有效地减少它的存在？Neil Johnson等人在《自然》杂志上发表了一篇引人入胜的报告，关于多个社交媒体平台上的在线仇恨社区行为，提出了上述问题。作者们揭示了网络仇恨群体的结构和动态，并据研究结果提出四个策略，来减少网络社交媒体上的仇恨内容。

我们生活在一个社会高度互联的时代，在这个时代，某个地理区域内的观点不会受到空间上的局限，而是可以通过在线社交媒体迅速传遍全球。这种传播的高速给那些管制仇恨言论的人带来了问题，也为邪恶组织提供了机会，去分享他们的信息，并在全球范围内扩充他们的招募。当对社交媒体的监管效率低下时，在线生态系统就可能会成为一种强大的激进工具。因此，了解控制仇恨的社区的动态机制对于提出有效措施在这个线上战场打击此类组织至关重要。

乔治华盛顿大学研究员Neil Johnson

在几个月的时间里，Johnson等人研究了Facebook和VKontakte这两个社交媒体平台上的仇恨集群的动态。集群被定义为将具有相似观点、兴趣或公开目标的个人组织到社区中的在线页面或群组。社交媒体平台上的这些页面和群组，也包含了指向其他具有类似内容集群的链接，以便让用户加入。通过这些链接，研究者建立了集群之间的网络连接，并可以跟踪一个集群的成员如何加入其他集群。如果两个集群（组或页面）包含彼此的链接，则认为它们是连接的。这个方法的优点是不需要关于集群成员个人级别的用户信息。

他们的研究表明，网络仇恨组织是具有高度弹性的集群。其中的用户并不局限于地理位置，而是通过“高速公路”在全球范围内相互联系，这些“高速公路”促进了网络仇恨在不同国家、大陆和语言之间的传播。当这些集群受到攻击时——例如，当遭到社交媒体平台管理员删除时——集群会快速地重新连接和修复自己，集群之间有着强大的连接，由共享的用户所形成，类似于共价键。在某些情况下，两个或更多的小集群甚至可以合并成一个大集群，研究者把这个过程比作两个原子核的融合。利用数学模型，他们证明了在单一平台上禁止仇恨内容只会加剧在线仇恨生态系统，并促使他们创建平台监管无法检测到的集群（称之为“暗池”），在那里，仇恨内容可以不受约束地蓬勃发展。

在柏林的Facebook删除中心，内容管理员正在工作，删除仇恨相关内容。图片来源：Gordon Welters / NYT / Redux / eyevine

在线社交媒体平台的监管正面临挑战，政策制定者一直在努力提出切实可行的方法以减少网络仇恨。事实证明，禁止和删除与仇恨有关的内容，这种努力是无效的。在过去几年中，网上仇恨言论的发生率一直上升，表明反对仇恨内容传播的斗争正经历溃败，这对我们社会的良好运转和安全是一个令人不安的方面。此外，还有人煽动在社交媒体上接触和参与在线仇恨，以推动线下攻击，据报道，一些暴力仇恨犯罪的实施者参与了此类内容。

以前的此类研究将仇恨群体视为单独的网络，或将相互关联的集群视为一个全球网络。而在他们的新方法中，Johnson和他的同事们研究了一个由仇恨集群社区之间的相互联系所形成的结构，将其作为一个“网络的网络”，在这当中，集群是由高速公路连接起来的网络。此外，他们还依据研究所揭示的控制网络仇恨生态系统结构和动态的机制，提出了四项有效的干预策略。

在目前的情况下，社交媒体公司必须做决定禁止哪些内容，但往往又不得不应付海量内容，以及不同国家的各种法律和监管限制。Johnson和同事们建议的四条干预措施考虑了与禁止团体和个人用户相关的法律斟酌。尤其是这些策略都可以由单个平台独立执行，而不需要在它们之间共享敏感信息，大多数情况下，没有用户们的明确同意，法律上是不允许这种共享的。

四种对付网络仇恨的策略的简单图解，来自论文Hidden resilience and adaptive dynamics ofthe global online hate ecology

在第一条策略中，他们建议禁掉相对较小的仇恨集群，而不是删除最大的在线仇恨集群。该策略平衡考量了作者们研究中的一个发现，即网络仇恨集群的规模分布遵循幂律趋势，即大多数集群很小，只有极少数集群很大。禁掉最大的仇恨集群将导致从无数个小集群中形成一个新的大集群。相比之下，小型集群数量很大——这意味着它们相对容易被定位——而消除它们可以防止其他大型集群的出现。

禁掉整个组群的用户，无论群体规模多大，都有可能在仇恨社区引发愤怒，并以压制言论自由对社交媒体平台提出指控。为了避免这种情况，第二条策略建议从网上的仇恨集群中随机选择一小部分用户来禁止。这种随机定位方法不需要定位用户的空间位置，也不需要使用敏感的用户档案信息（这些信息不能应用于特定的目标用户），从而避免了可能违反隐私规定的情况。然而，这种方法的有效性很大程度上取决于社交网络的结构，因为网络的拓扑特征强烈地塑造了它们对随机故障或目标攻击的弹性。

第三条策略则考量了另一个发现，集群是由最初无序的用户自组织形成的。所以这一条建议平台管理员应该促进反仇恨用户集群的组织，作为一个“人类免疫系统”来对抗和抵消仇恨集群。最后一条策略利用了一个事实，即许多网络仇恨组织有着相反的观点，他们建议平台管理员引入一个人工用户组，以鼓励持有相反观点的仇恨集群之间的交互，以便仇恨集群互相战斗消耗。研究模型显示，这样的战斗将有效地消除持有相反观点的大型仇恨群体。后面两条策略一旦付诸实施，就不需要平台管理员的直接干预，然而，将相互对立的集群设置在一起需要小心翼翼地实施。

在评估采用每种策略的利弊时，需要十分谨慎，因为实施策略的可行性将依赖于可用的计算资源和人力资源，以及法律上的隐私限制。此外，任何关于是否执行一项策略而不执行另一项的决定，都必须在经验分析和密切监测这些集群所获得数据的基础上作出。

这些年来，越来越明确的一点是，要想有效解决网络仇恨以及网络社交平台引发的法律和隐私问题，不可能是由单个行业来给出方案，而是需要技术公司、政策制定者和研究人员的共同努力。Johnson和同事的研究提供了有价值的见解，他们所提策略可以作为未来努力的指导参考。