算法时代下社交网络平台有害信息的治理问题

当今社会，基于大数据原理的“算法传播”已经广泛应用于传播领域，算法传播在方便用户获取信息的同时，也成为了假新闻和后真相泛滥的幕后推手，给网络舆论带来了严峻的挑战，尤其是根据用户喜好进行个性化推荐，为不良信息的传播提供了快捷途径，其带来的危害性，吸引了公众的普遍关注，算法传播引起的有害信息治理问题也引起了全社会的忧思。

2017年11月，一名14岁的英国少女莫莉·拉塞尔在社交媒体观看了鼓励自杀的“灰色”内容后选择结束了自己的生命。据了解，拉塞尔此前并未有严重心理问题的迹象，她的家人后来发现拉塞尔自杀前多次浏览与焦虑、自我伤害和自杀有关的内容，这些内容甚至是通过她喜欢的社交平台推荐而来的。即使在拉塞尔去世后的几个月内，Pinterest依然自动给她推送很多关于自残的照片，甚至打开拉塞尔的Instagram，里面也充斥着大量相关内容。

拉塞尔父亲认为，Instagram和Pinterest是杀害他女儿的帮凶。英国卫生部长Matt Hancock表示，社交媒体需要清除这些极其负面的内容，而不这样做将会面临重大诉讼。大家都说技术无罪，那么当算法都认为你对自杀感兴趣而推送相关内容的时候，我们又该如何面对呢？技术不是万能的，在智媒体时代，算法推荐的不良信息很可能加剧人们的精神健康危机，对此，我们必须制定一套有针对性的解决机制抵制不良信息的传播。

相关规定

国内：近年来，我国相关立法和规定都开始关注算法推荐，为了维护健康的网络环境，我国《电子商务法》、《数据安全管理办法》（征求意见稿）以及《个人信息安全规范》最新修订草案都对此作出了规定，根据《电子商务法》第十八条、第二十四条规定，电子商务经营者为消费者提供商品或者服务的个性化推荐时，也应当提供不针对其个人特征的选项，同时提供了“退出”选项给予消费者删除个人信息的权利；《数据安全管理办法》征求意见稿指出，要求标明“定推”字样；《个人信息管理规范》最新修订草案新增“用户可拒绝个性化广告”，填补了个人信息保护在具体实践标准上的空白。

随着人工智能和大数据的发展，防止技术滥用已经成为了一项课题，包括算法推荐在内的技术应用也将会迎来更严格的监管。2020年3月1日实施的《网络信息内容生态治理规定》就明确要求网络信息内容服务平台要优化信息推送机制，明确算法推荐与人工编辑相结合的信息分发方式，为个性化算法推荐带来的问题提供了全新的解决方案。

国外：由英国政部、英国文化传媒和体育部起草的《网络危机白皮书》于2019年4月8日发布，主要针对推特、脸书、Instagram、论坛、网盘以及搜索引擎在内的网络公司提出一系列网络提案，要求强化网络平台的自我监管，成立独立的网络监督机构专门审核有害信息，并对监管不力的网络平台管理人可以进行处罚，但是具体的惩罚尺度还未确定。《白皮书》还要求网络公司要提交年度报告，报告内容要包含他们对网络有害内容采取的措施办法，除此而外，还要求以儿童为对象的流媒体网站有义务阻止色情暴力等不良信息在网站上出现。

英国首相特蕾莎·梅认为《白皮书》的出台时网络公司自我监管时代的结束，“长期以来，网络公司都没有做好保护儿童的工作，现在是时候做出改变了。”据《卫报》分析，英国小女孩拉塞尔的自杀与新西兰发生的枪击案都推动了《白皮书》的出台。

反思建议

1. 技术层面。一方面，针对算法推荐给用户的内容可以开发相应的审核软件，既然算法技术是科技发展到一定阶段的产物，那么我们就可以考虑用技术来解决技术带来的问题。通过开发AI内容审核软件来智能识别算法推荐给用户的色情暴力等不良信息，同时对视频、音频或者图片等内容进行智能分析，充当一个算法推荐的把关人角色，从而减少有害信息的传播；另一方面，优化算法公式，从源头上抵制算法推荐带来的不良信息传播，争取既满足不同用户的个性化需求，又最大限度地传播正向或者中性的信息，在用户满意度和推荐优质内容之间找到一个平衡点。

2. 法律层面。第一，完善体系，促进现行法规之间的衔接。目前，我国对有害信息的治理大多是法规、规章以及政策性的文件等，而这些规定都来自于相关的不同部门，法律位阶存在差异，规制的侧重点也不同，而且部门立法时都会追求自身权利的最大化，因此，一旦不同规定之间的条款发生矛盾时，行政权力就会发生冲突，最后导致法律适用很难。第二，明确政治性有害信息的范围。在实践中，网络信息被屏蔽、删除多出现于政治性有害信息的管制上，事实上，很多被限制的有害信息都是政治事件的边缘信息，并非是完全意义上的政治性有害信息，但是在实践中都被当作有害信息加以限制。由此可见，我国对于政治性有害信息的范围不够明晰。第三，发布指导案例或者参考案例。随着大数据时代的到来，网络信息的传播方式及途径不断变化，应当对典型案例不断进行整合总结以弥补现行网络立法的不足。

3. 行业自律。一方面，算法传播既有技术属性又有价值属性，算法的背后是人，算法的价值观就是人的价值观，因此，算法传播平台本身要对公众有正确的价值观引领，自身要做好不良信息的筛选、过滤或者删除工作，从而有效推进网络有害信息的治理工作；另一方面，要严格执行《互联网信息服务办法》，鼓励正能量账号，限制不良账号，一旦出现危害社会利益的有害信息，应该依法追究相关责任。

4. 公众意识。算法技术的出现为人们生活带来便利的同时，也在无形中增加了受众的惰性，因为获取信息需要成本，人们总是倾向于用最小的代价换取最大的收益，所以很多人在接受算法推荐的服务内容时，很多时候关注的都是自身是否需要此类信息而忽略了是否为有害信息，更不会向平台去举报这些信息，也因此增加了有害信息的治理工作，由此可见，公众对有害信息的防范意识和自省能力也是网络有害信息治理的重要因素。

算法技术一方面方便了人们的生活，另一方面也加剧了有害信息的传播，人们在享受算法推荐的内容服务时，也应该有意识地过滤掉不良信息。网络信息传播方式多样、速度之快、传播之广增加了网络有害信息治理的难度，这是一个复杂而又长期的过程，它需要技术层面、法律层面和行业本身等多方的共同参与，只有多方合作，才能构建文明健康的网络环境。