线上平台去“色”难?看微信、Soul等平台智斗网络垃圾

社交一直以来都是一条充满着想象力的赛道。在早期的社交产品角逐中,争先恐后涌入这条赛道的玩家们尝试着推陈出新,用诸如实时视频、连麦、小游戏、小程序等功能实现拉新。诚然,有趣新颖的功能能吸引大批用户,但是,随着用户体量的上涨,一小撮别有用心的不法分子也嗅到了可乘之机。他们成群结队地涌入各大平台,渗透进形形色色的用户群体,通过色情的幌子敛财、诱骗、敲诈,不仅对广大用户造成了极其恶劣的影响,还把互联网环境弄得乌烟瘴气。

近期,线上色情的问题又被推上了风口浪尖。二手交易平台闲鱼上,卖家通过免费赠送洛丽塔服饰的方式,企图诱骗买家进行色情交易;多款儿童游戏中,行径卑劣的部分成年人以虚拟道具为奖励,引诱女童发送裸照。色情产业的触角已切切实实地触及了电商和游戏行业。在这些新闻令人瞠目结舌的同时,不禁让社会公众打出了一个大大的问号:线上平台去“色”,究竟有多难?

线上色情难题自互联网诞生伊始早已根深蒂固。从监管松散的多人聊天室、到私密亲昵的语音聊天、再到群魔乱舞的直播……新闻里一幕幕触目惊心的画面让世人见证了人性的扭曲。与此同时,青少年心理健康也成为了社会关注的焦点。似乎,因为监管上的疏漏,各大线上平台自然而然地成为了媒体和公众口诛笔伐的目标。

事实上,涉黄信息的根源终究来源于人,或者说,来源于一小撮居心不轨的灰产用户和无良的平台所有者。主流线上平台都本着维护和谐清朗的线上环境的愿景,抱着“魔高一尺,道高一丈”的信念,通过不断革新的风控手段封杀色情内容和涉黄用户。其中,有两个平台在阻击灰产方面的做法,或许值得学习。

作为社交领域的领头羊,微信已成为了日常人生活中必不可少的沟通软件。乍一看,在私密性较高的IM场景中,似乎并无监管的难题。但是,微信公众号、小程序这些触达人群广、传播性强的功能却让微信的监管变得困难了起来。

事实上,微信对于内容监管的力度和措施可谓是无所不用其极。微信配备有实时更新的敏感词词库来检索公众号文章和小程序,全方位筛查潜伏的“涉嫌低俗、性暗示或色情信息”、“涉嫌违反相关法律法规及政策”、“涉嫌诱导关注”、“涉嫌过度营销”的内容。与此同时,微信会滚动监测转发数激增的文章和小程序,并人工审核其是否触犯以上几大违规因素。在及时确认文章和小程序违规后,微信会及时做出平台删文和小程序暂时停用的操作,杜绝色情、违法、骚扰信息的扩散。对于情节恶劣、屡教不改的公众号和小程序,微信从不吝啬对其实施屏蔽和永久停用的手段,坚决站在群体用户利益角度出发,维护网络安全。

在2018年异军突起Soul成为了时下炙手可热的社交新贵。智能算法赋能的UGC内容推送与大数据支撑的匹配机制相辅相成,让数千万用户走进Soul的世界。然而,在用户规模日渐、UGC内容百花齐放、匹配功能使用频繁的同时,更严格的监管需求也随之而来。

Soul配备有完善的“机器算法+人工审核”的双重审核机制。在内容审核方面,Soul拥有一套实时更新的预审算法,用户发布的每一条内容都需要通过预审算法的关键词检索。当系统发现违规词条时,会第一时间发送至人工审核团队,并对帖子的删除和对发帖用户的封禁做出及时的处理。另外,不论是广场帖子还是语音匹配,用户都能通过直观醒目的举报按钮对涉嫌违规内容进行检举。Soul的运营审核团队会在极短时间内做出举报反馈,以公平、严正、高效的态度为用户打造温暖、绿色的线上社交环境。

即便如此在微信和Soul拥有如此高强度、高密度的监管机制,仍然会有漏网之鱼偶然之间出现在个别用户的视野中。如前文所言,涉黄信息终究源于居心不轨的小部分用户;大多数用户都是抱着平等友善的心态上网冲浪,所以平台无法通过禁言每一位新晋用户,从而实现绝对绿色的社区环境。优质平台能够做到的,是与时俱进地升级风控系统,将色情内容尽可能地扼杀在襁褓里;对于那些顽抗狡猾的涉黄用户,做到第一时间发现,在刚刚萌芽时将其斩草除根。

中国人民大学网络传播学教授彭兰在一次采访中指出:“打击网络色情和其他网络违法活动应该是多管齐下,以技术手段、法律手段、自律手段、行政手段和民间监督等方式同时并举。”

不难看出,去“色”,是一场全体网民共同参与的持久战。希望各大肩负社会责任的线上平台站在这场战役的最前线,与身后千千万万的网民们一同坚守风清气正的互联网环境。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190815A0IQV200?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券