短视频中是如何鉴黄的?

  • 回答 (5)
  • 关注 (0)
  • 查看 (264)

2017年开始,各种短视频、小视频app井喷似的出现在在人们的手机里,但这些小视频在满足人们休闲娱乐的同时,难免会给黄色垃圾信息的传播和贩卖带来可乘之机,那么目前都有哪些靠谱的鉴黄技术呢?

诸葛白云诸葛白云提问于2018-03-13
lusture修改于2018-03-14

随着短视频的活跃,其中的内容安全隐患问题也凸显了出来.

现在的各大短视频和直播平台都已经开始抛弃了传统的人工鉴黄的方式。

传统的人工鉴黄方式就是鉴黄师根据一定的认知经验判断视频是否涉黄或者涉嫌低俗内容。

这样的操作不仅会造成很大的误判率,还浪费不必要的时间。

目前视频鉴黄的大趋势是智能鉴黄:先将视频分割成帧,每一帧就是一个图片。通过深度学习的方法,从大量的图片集中训练得到鉴黄模型,从而去判断视频内容是否安全。

按照腾讯云中人工智能下的智能鉴黄解决方案的解释:

该图截自腾讯云:https://cloud.tencent.com/product/PornIdentification?idx=1#userImg

“过客户提供的图片内容或者下载地址,自动获取图片进行智能识别,将图片的色情分值返回,即提供其属于色情图片的概率。对于高置信度(最低误判率显著低于人工审核误判率)图片可直接打击,对于次高置信度图片可按优先级交付人工审核确认。

模型会为测试图片打上不同的色情分数。“色情分数91分以上为色情图片,建议开发者对此类图片进行封禁处理。色情分数在83-91分为疑似色情图片,建议开发者对此类图片进行人工识别处理”(摘自腾讯云官网)

腾讯优图和腾讯云提供的智能鉴黄的模型目前准确度高达99.95%,目前成功的解决案例有:大众点评、四维图新、车童网等。

目前各大云平台都提供了智能鉴黄服务,除了腾讯云以外,还有易盾,阿里云,百度色情识别,金山云,图谱科技,乐视云等。

小铁匠米兰的v回答于2018-03-14

楼上就图片鉴黄技术做了介绍,我这里介绍一下音频鉴黄技术。

基于图像识别得视频涉黄检测准确率可以达到99%以上,可以为视频直播平台节省70%以上的工作量。(摘自36kr)

音频鉴黄技术就是将视频中的语音通过神经网络构建的深度声学模型来鉴别出是否涉黄的方法。

所以音频鉴黄技术说到底就是一个音频识别的分类问题,现在youtube鉴黄技术就充分使用了这个技术。

而目前音频鉴黄技术常用的模型有HMM模型、LSTM模型、rnn-gram模型等。主要过程如下:

语音处理,特征提取,模型训练和阈值判断几个环节。

用户1393691回答于2018-03-14

就是把视频分割成图片,然后根据图片显示的动作姿势,颜色等特征来与特征库中的特征做匹配,匹配度越高,色情分数就会越高,超过一定阈值就会被标注为涉黄视频!

苏子晨回答于2018-03-14

目前视频鉴黄中主要是看三个方面:图中是否有人物、人形轮廓及对比、动作姿势。

目前人工智能鉴黄,也并不那么靠谱,同样也会产生误判的情况。色情和非色情的阈值不好把握,需要更多训练数据和进一步的模型优化。

你在哪里回答于2018-03-14

现在直播跟某些短视频平台真的得好好管管这块了,要不然政府就要采取强制措施了。