我们谈论色情时,AI能做什么?

饮食男女,人之大欲存焉。

几千年前,孟子与告子辩论,告子说:“食、色,性也。仁,内也,非外也。义,外也。非内也。”尽管,这句“食色性也”常被人们误以为是孟子所言,但将色与食物放在同等重要位置的可不止告子一人,就连孔子也曾说:“饮食男女,人之大欲存焉。”

“色”这一事的重要程度可见一斑。

而这来自于人类最原始与本真的需求,在千百年间,也催生、推动了成人产业的发展。

日前,TRE台北国际成人展正如火如荼的举行,日本著名女优高桥圣子的参展成为了最大噱头。而再过数日,2018亚洲成人博览也将拉开帷幕。

根据今年5月18日艾媒咨询发布的《2018Q1中国情趣用品专题研究报告》显示,现阶段中国情趣用品市场正处于快速发展时期,预计2020年中国情趣用品市场规模将突破1300亿元。此前,90后女生马佳佳因为围绕情趣用品创业备受关注,近年来,以网易春风为代表的行业“老司机们”也纷纷入局。

然而,关于“色”有合理合法处于“明处”的成人产业,也有隶属违法犯罪暗地中的淫秽色情。

所谓“春风”不度玉门关,安全意识要增加。

成人产业界的“安检”一职就此产生。

色与戒

图 | 来源:南方都市报

吴霞坐在电脑前,快速的滑动着手中的鼠标,电脑中是多个点开的窗口。她熟练的点开运营审核系统,每个用户的微动态、活动、相册图片等信息都会显示在电脑上。她的工作就是从中选出违规的内容。隔着大西洋的另外一边,萨拉与吴霞做着类似的工作,不同的是,她每天需要看8000多条包括大量种族主义言论、以及其他不堪的照片和视频。

这样的安检工作,被称为鉴黄师。

职业鉴黄师每天的工作内容主要包括查看各种文本、图像、视频,查看其中是否含有色情、血腥、暴力等内容。

巨大的工作量、长时间观看令人不适的内容,久而久之,身为鉴黄师的她们不仅视力会下降、精神和心理上也受到了很大的影响。

英国媒体就在此前报道了微软公司网络安全团队中的两名员工亨利和格雷格将微软告上法庭的新闻。起诉的原因就是他们在工作的过程中需要查看成千上万的暴力视频和图片,导致了两人出现精神分裂以及抑郁等症状。

两人的律师表示,“许多人无法想象,亨利一天究竟要看多少可怕和残忍的东西。不仅看到儿童遭性侵犯的画面,还有针对儿童的谋杀以及难以形容的暴行。”

长期以往,亨利出现睡眠障碍,工作中看到的画面经常出现在他的脑海中,他的病情越来越严重,甚至开始出现幻觉、精神分裂和抑郁等症状。

而这并非个案。之前,在美国、英国、中国等都曾出现过多例鉴黄师起诉“老东家”的案件,状告鉴黄师这一职位带给他们严重的心理影响。

但这个高危的职业,在国内却被冠以“高薪”、“神秘”等标签,引起了不少人对于鉴黄师这一职业的羡慕。

鉴黄师真的享受“年薪二十万”的待遇吗?

据悉,Facebook的鉴黄师薪资在每小时13美元到28美元不等;国内的一些网络公司,该职位的月薪也仅为2000元-4000元。并且,很多鉴黄师在工作几个月到一年之后就会辞职。

人员流动性大,也成为了这个岗位显著的特点。

被强烈需要的鉴黄师

一边是鉴黄师们对色的拦截,一边是伴随着互联网社交媒体、直播、短视频不断涌现,色情、暴力等内容在法律边缘疯狂试探的此起彼伏。

直播行业中,前有 “直播造人”、“黄鳝自慰”被媒体怒批的斗鱼TV;后有未成年人露体直播被《法制晚报》曝光的美拍。短视频行业,有因内容低俗被人民日报点名、被责令整改的快手;也有刚推出国际版走向海外,就因为呈现不适内容,被印尼官方封禁,海外之路就此夭折的抖音。

这些依靠内容起家的社交媒体平台们,在影响力、业务、商业化不断上升的同时,内容成为了其最坚实的铠甲,却也成为了最薄弱的软肋。通过已经“凉凉”的五五开和陈一发事件不难看出,在内容安全面前,商业价值再高也不能容忍。

因此,负责内容审核的鉴黄师成为了保证内容安全至关重要的防线,鉴黄师也自然而然成为各大企业扩招的对象。

2018年4月7日,快手在被责令整改后,面向全国发布招聘信息,新招3000内容审核编辑,将2000人的审核团队扩大至5000人。而在海外,截至2017年12月,Facebook负责内容审查的人员就从4500名增加到了7500名,并且计划在2018年底,该岗位人数达20000人,而海外著名平台YouTube母公司谷歌也将内容审查团队扩充到了10000人以上。

企业对于鉴黄师的需求是迫切而广泛的,但这一职业带给从业者的心理伤害引发的官司、人员流动性大造就了招人难、成本高的局面。而伴随着人工智能技术的成熟以及商业化落地到金融、医疗、服务、文娱等各个领域,一些科技公司看到了人工智能在鉴黄、内容审核这一应用场景潜在的机遇。阿里巴巴、腾讯、网易、图普科技等就是代表之一。

AI鉴黄

了解一下

2015年10月,阿里巴巴宣布“绿网”正式上线,该系统的另一个名字是“黄图打分器”,即通过AI技术鉴别黄色图片。

同年,腾讯上线了万象优图智能鉴黄服务。

而被戏称为“养猪场”的网易也不甘落后,推出了网易易盾,提供智能鉴黄、暴恐识别等服务。

成立于2014年4月的图普科技,目前已经为迅雷、酷狗、我图网、七牛云、花瓣网等众多一线互联网公司达成合作,为其定制个性化图片/视频识别引擎。

图 | 来源:微博

那么,AI又是如何充当鉴黄师的呢?

据悉,AI鉴黄和很多人工智能系统类似,将海量的色情图片作为素材,通过深度学习算法进行训练,识别色情信息,并通过样本建立模型,最终机器以此为据判定哪些是色情图片。

图片与视频直播不同在于,图片是静态的,而视频和直播是动态的,但其识别方法并没有本质区别。鉴别视频和直播时都是通过间隔截图、关键帧截图等从视频内容中提取相应的视频帧进行图像识别。

目前,Facebook、快手、迅雷、百度等都通过AI系统对色情、暴力等违法内容进行鉴定过滤。扎克伯格表示,脸书的AI系统已经能够过滤掉高达99%的不良内容,但剩下的依旧需要鉴黄师进行处理。而根据百度发布的《2017年度信息安全综合治理报告》中显示,AI系统能够实现95%以上的信息审核。

尽管已经极大的提升了效率,但当前AI并不能完全取代鉴黄师的岗位。

擅长在多模态深度语义理解,和结合上下文多轮语义理解的深思考人工智能CEO杨志明解释道:“现在,在图像识别或者视频,针对于某些特定的目标,比如狗、职务、人这些识别都已经非常准确。但针对图像或者视频场景的理解,比如小狗趴在葡萄架下乘凉,整个场景的理解相对更难。而色情、暴力、血腥等往往正是需要AI对场景进行理解。”

此外,杨志明也表示,在技术层面,人们通常说的色情、暴力等本身是一个抽象复杂的概念。只有先在技术上将其定义清楚才能做内容上的识别。不过,技术人员可以采用知识图谱来描述这些概念,比如暴力,可能会有施暴工具、被害者、施暴者等。在定义清楚之后,再用场景理解,识别的准确率就会提高很多。

关爱鉴黄师身心健康,从AI做起。

结尾

从春宫图、妓院、金瓶梅到如今的情色电影、成人产业,色与食始终是人类根本的需求。而随着时代的发展,科技对于色与性的介入也将不仅仅停留在AI取代鉴黄师的层面。目前,已经有不少科技公司正在研发性爱机器人、虚拟情人,通过新材料、AI、VR等多种技术手段,多层面和维度去满足人类关于性的需求。

未来,谁又能保证人类不会像电影《Her》里面一样,爱上一个语音助手呢?

文章部分资料来源:1. 南方都市报 《女鉴黄师:一分钟看上百张图 视觉冲击大久了扛不住》 2. SuperD超多维科技《AI鉴黄师如何工作?计算视觉技术与网络视频审核》。

/- 推荐阅读 -/

▲芯片创企伸手,神话可以复制吗

▲严肃探讨:苹果万亿美金身家怎么花?

▲ 运动机器人“智障”了吗? | 深度

原文发布于微信公众号 - 镁客网(im2maker)

原文发表时间:2018-08-06

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏吉浦迅科技

上海交大黑客松NVIDIA智能小车项目比赛纪实 |一个人的武林,一群人的黑客松

人生追求的,无非是心的平安喜乐,天下第一是孤独的路,需要抛下太多人和事,才能站上狭小的峰顶。福,共同创造,苦,一同承受,天下第一的念头再也没有出现在我心中。 ...

49080
来自专栏专知

人工智能的算法黑箱与数据正义

【导读】许可:人工智能的算法依赖于大数据,而大数据并非中立。它们从真实社会中抽取,必然带有社会固有的不平等、排斥性和歧视的痕迹。 ? 一个月前,《终极算法》作者...

44660
来自专栏数据的力量

扁平化不等于组织效率

19050
来自专栏CDA数据分析师

手握460亿笔数据!北京市政交通IC卡能玩出什么花样?

从今天开始,小编开始精编部分嘉宾的现场演讲内容,结合PPT,给小伙伴们奉上干货。 本期精编版嘉宾演讲为北京市政交通一卡通公司数据运营总监张翔带来的分享,看了他...

48860
来自专栏数据的力量

10个HR不可不知的职场最流行测评工具

170100
来自专栏机器之心

谷歌云变天:Diane Greene离职

明年一月,Diane Greene 将卸任谷歌云 CEO,由甲骨文前高管 Thomas Kurian 接棒。后者将在 11 月 26 日加入谷歌,并在明年一月接...

9110
来自专栏AI科技大本营的专栏

AI一分钟 | AI机器人竟混入大学哲学课堂并顺利结业,居然无人察觉!

一分钟AI AI机器人混入大学哲学课堂,并顺利结业。此事竟无人察觉! 阿里云携手隆平高科、中信云,计划将阿里云ET推进到农业领域, 用于筛选育种,农作物预测和数...

31180
来自专栏量子位

少年你骨骼精奇?AI现在可以帮你看一看了

唐木 发自 浙江杭州 量子位 报道 | 公众号 QbitAI ? “少年,我看你骨骼精奇,是个练武奇才,这里有一本《如来神掌》……” 现在,AI就能判断你是...

36350
来自专栏PPV课数据科学社区

如果你是数盲不要紧,补课大数据管理指南

  身处大数据时代,无论是金融服务、消费品、旅游交通,还是工业产品领域,企业若想在行业内争得一席之地,必须借助数据分析的力量。企业需要更全面的管理者与“宽客”(...

34650
来自专栏数说工作室

【大数据与金融业】第二文:P quant的装备之战

本系列搜集了一些大数据在金融领域应用的文章,编辑成册,让大家更有方向的学习。有好的文章欢迎推荐,愿与大家一起成长。 第一文介绍了P quant和Q quant。...

35450

扫码关注云+社区

领取腾讯云代金券