互联网内容正邪之战，AI是内容审核的杀手锏？丨科技云·视角

近日，Facebook 内容审核高管表示，杜绝网络上的不良信息，目前依靠人工而不是机器。这场互联网内容的正邪之争，现阶段AI到底扮演什么角色？

AI给各行业带来想象力，也有有心无力的时候。互联网上的不良内容，一直是各大平台内容审核的重要打击对象，利用大数据和算法解放人力看似是个不错的选择。然而，与人们预想的不同，AI目前还帮不上忙。

来自互联网不良内容的挑战

互联网上的不良内容，一直层出不穷，随着科技和文化发展，也呈现不同的变化。近期，有关部门正在深入查办涉儿童“邪典”视频案件，正是不良内容给内容审核带来的最新挑战。

这类视频将儿童熟知的动漫形象进行二次加工，制作视频展现暴力、恐怖、色情内容，对儿童身心健康造成不良影响。由于这类视频，上传时包含卡通元素，无法及时发现内容里的不健康内容，被大部分平台算法列到适合儿童的频道。

互联网内容另一大顽疾，则是色情内容。在内容审核人员考虑怎么用AI识别这类不良内容的同时，不法分子却也在依靠AI作恶。国外媒体报道，现在不法分子正在制作AI辅助的“换脸”色情片，将一个明星的脸被映射到一个色情明星的身体上。

此外，还有在社交平台上的最常见的“高仿大V账号”，也是目前AI无法解决的问题。包括微博、微信等在内的社交平台，存在大量冒充大V的“高仿”账号。

假账号大多采用与大V一样的头像，在账号名称上也极具迷惑性。“高仿”账号利用大V的号召力进行欺诈行为，将会对普通用户带来损失。

兵来将挡，巨头只能堆人力

面对不良内容带来的挑战，互联网巨头如临大敌，但是在人们认为AI会大显身手的互联网领域，却对内容审核“有心无力”。

Facebook 内容审核高管近日接受采访表示，随着社交媒体成为文化和政治的战场，内容审查已经成为Facebook一个最为紧迫的话题。不过内容审查仍旧是一块烫手山芋，并不是通过投入大量的工程师就可以解决，想依靠AI解放人力还有很长的路要走。

事实上，Facebook目前在全球拥有7500个内容审查员，人工审核还是内容审核的核心力量。国内同样面临这样的情况，今日头条在被北京网信办约谈并且停止更新部分栏目后，开始招聘人员进行内容审核，完善机器算法还没能完全胜任的审核工作。

根据招聘网站上信息，今日头条招聘内容审核编辑，要求热爱新闻，关心时事，具有良好的政治敏感度和鉴别力，要求本科及以上学历，党员优先。总的新增规模在2000人左右，而此前内容审核编辑团队人数已超过4000人，最终规模将接近Facebook的规模。

谁限制了AI的威力

针对目前内容审核的压力，不得不说，更多人还是希望AI在内容审核上发挥更大威力，难道AI真的不能减轻人工压力吗？事实上，有时AI确实技术还没达到相应水平，而有的是人们限制了AI。

考虑到AI现实的发展，确实还是会有受到技术门槛限制的情况。当前AI能够识别语音、处理文字，面对这部分不良内容，具有较强的识别和处理能力，但是面对视频还是能力不足。

视频中的不良内容能从画面、音效、语言等多方面结合，特别是有的语言一语双关或者外国俚语，平常使用没有问题，配上暗示不良内容的画面和音效就是另一个意思，需要AI进一步进化才能识别。

这方面内容，要人工审核和最新技术配合。大数据确实具备高效的优点，但目前看来内容审核无法对这一技术手段过度依赖，仅依靠卡通形象就判断为儿童栏目，有明星就是娱乐栏目等，这类模式化操作显然不适应用来审核内容是否合法合规。

可喜的是，更多时候AI是能够发挥巨大威力。国外GIF动图托管公司Gfycat就通过AI，找到了识别不良内容的gif和视频的方法。

通过他们开发的工具，如果怀疑一个视频被修改为了别人的脸，就可以“屏蔽”受害者的脸，然后搜索身体和背景是否出现在互联网上的其他地方。一旦发现图片与源文件不匹配，AI即判定视频被修改。

还有的时候，本可以解决的问题，是人们限制了AI的威力。例如社交平台上常见的“高仿”账号，当前已经可以依靠AI来识别。据媒体报道，Facebook新增三项机器视觉方面的能力，有两项目的就是为了打击高仿及虚假帐号。

一项是有人盗用其他用户照片开新帐号，照片本人会搜到提醒，另一项则是当别人上传了含有某用户的照片，照片上的人都能收到推送。

然而，Facebook能做到，同为社交类的Twitter却没有。Twitter至今都允许相同昵称、相同头像的高仿帐号存在。或许Twitter平台更看重粉丝和活跃度，而限制住了AI的威力。

任何层面的正邪之争，都是一场持久战。在信息爆炸的时代，每天不计其数的视频、图片、文字被上传到网络上，仅依靠人工审核，无法做到万无一失。未来的内容审核之战，还是需要AI的强力支持。

【科技云报道原创

转载请注明“科技云报道”并附本文链接