读书 | 美国社交媒体的内容审核为何转包到海外——隐秘的互联网人工“防护堤”的运转

（图源：视觉中国）

美国加利福尼亚大学洛杉矶分校教育与信息研究所助理教授、2018年卡内基学者莎拉·罗伯茨所著的《幕后之人》这本书，花费了八年时间研究、考察得以完成，揭示了美国社交媒体平台企业的审核员工的生存现状。

脸书、推特为代表的美国社交媒体平台企业，还有谷歌、微软等搜索引擎公司，最近十多年里一直招致猛烈批评。也就是这些企业并没有很好地尽到对自媒体内容或搜索结果的审核责任，导致了有害信息、不实信息以及其他许许多多皆可归属于损害伦理道德的信息的扩散流传。监管部门、研究机构、公众代表和媒体对于上述企业提出的要求，就是切实尽到审核职责。

但另一方面，也有一些专家和媒体坚持认为，将审核职责交给上述私有化运作的企业，也存在较大隐患。一是可能存在企业迷信技术手段、算法，以及人工审核能力不足等弊病，从而导致审核不力。2016年美国总统选战期间，特朗普一方正是抓住了这方面的漏洞，扩散了不利于其竞选对手的信息。二是审核手段也无从被证明是客观、中立的。脸书、推特等美国主流社交媒体平台企业为了换取政治庇护，对于他国指责美国外交和贸易霸凌行为的内容予以了限制，甚至采取了更为粗暴的封锁措施。

《幕后之人》这本书将多年来隐匿在幕后，但事实上发挥着强大作用的社交媒体平台企业等互联网公司的审核环节予以了揭秘。读者将因此获知，印度、菲律宾、爱尔兰等国以及美国一些远离硅谷（科技中心）、纽约（金融中心）的州，实则分布着大量的审核外包公司，通过外聘审核员来完成受托的审核工作，其劳动权益相当程度上也没能获得良好保护。

书中指出，要尽到审核职责，对于平台企业来说确实意味着很严峻的挑战。因为用户生成的内容数量相当惊人，无论是文字、图片，还是视频、语音，很多情况下需要纳入法律、文化、平台规则、社会心理、商业以及侵权多方面维度进行考量。有一些审核工作的确可能通过升级迭代算法来完成，但“绝大部分由用户上传的内容还是需要人工干预才能得到恰当的甄别”。

对于平台企业而言，有个颇具悖谬性的挑战：监管压力、公众压力导致其必须收紧内容审核，但很多发出批评的用户本身也在上传挑战审核规则的内容，审核规则本身无法做到纯粹意义上的公之于众——因为一旦如此，如书中所说，就存在被特定的企业和用户利用来制造令人反感、不适的内容的风险，甚至再现特朗普选战中利用规则败坏对手名誉的问题。

书中介绍，美国社交媒体平台企业的网络内容审核员分为四类：第一类是科技公司的直属职员，等级要比及其他三类审核员更高，但聘用方式也分为直聘、第三方派遣、兼职合同工；第二类则是科技公司外包的小型专业审核公司的职员；第三类在大规模的呼叫中心、审核中心工作，计量工作，比如菲律宾就是当今的呼叫中心之都，有很多年轻人供职于类似的审核岗位；第四类则是通过零工平台完成计件审核工作。

一个突出的趋势是，社交媒体平台企业越来越多采用上述第二、三、四类方式来确保完成日渐增长的审核工作。这也意味着，审核工作其实主要在平台企业以外完成，这种本质上是数字时代的知识劳动工作，劳动价值越来越低（尽管审核工作本身的作用被认为越来越大）。平台企业就像过去的美国、日本制造业企业那样，充分借助菲律宾、印度等外包国的低薪酬、轻劳动保护而得以节省内容审核方面的用工成本。因而，这本身也意味着审核工作一定存在诱发风险的问题所在。正如书中所说，美国社交媒体平台企业基本上完成了全球覆盖，因而许多信息涉及到“地区性政治冲突、违规行为的新发展趋势，以及恶意用户对平台的狡猾操纵”，总之就是对审核的技术性要求其实提高了，但大量被外包的审核环节能否满足这些要求，却成为了未知数。

具有讽刺意味的是，之所以美国的社交媒体平台企业大量将审核工作外包到海外，一个很重要的原因，那就是审核员需要审看大量的污言秽语、“污染性”的图片和视频等，以及其从业的劳动环境使之在美国可以获得一定程度上的职业保障，比如心理调适。此外，美国本土外包审核员还具有向媒体通达审核内幕的风险。而平台企业对海外外包审核员就不需要担负这些方面的责任。

《幕后之人》

[美]莎拉·罗伯茨 著

罗文 译

广东人民出版社

进入社交媒体时代，互联网上的内容日益混乱驳杂，商业性内容审核已成为一项广泛存在、极为必要的工作。而抵御不良内容的主要屏障并非是机器算法，而是人。数以百万计的审核员承担了大量的工作，他们评估社交平台用户上传的信息，筛选和移除色情、暴力、仇恨言论等不良内容。然而，出于各种原因，这个行业长期游离于社会关注之外，从事相关工作的审核员群体也不被大众所知。

在本书中，作者对商业性内容审核这一行业进行了充分的社会研究。基于对从硅谷到菲律宾、专业审核公司和主要社交媒体的一线员工的采访，本书对这个不被人所知的行业进行了全面分析，考察了互联网商业性内容审核工作的不同类型（短期合同工、专业公司、外包、零工），揭示了审核员们的社会待遇、身心健康、日常生活、职业发展等，并针对内容审核过程中出现的政策争议、犯罪制止、社会影响等进行了分析和阐述。本书对于互联网内容审核员这一“幕后之人”群体的揭示性调查，不仅对商业互联网的现实做出了独到的描述，还提供了对数字时代全球化劳动力未来的洞察。

作者：郑渝川

编辑：金久超

责任编辑：朱自奋

*文汇独家稿件，转载请注明出处。