如何使用直播审核

背景：

近些年来，随着视频直播的快速发展，越来越多的人开始参与到直播当中来，生怕自己错过直播带来的红利浪潮。但是随着越来越多的平台进来，竞争的加剧，使得没有流量没有资本的平台扛不住压力而倒闭，而有的为了铤而走险，以色情炒作吸引眼球。正是直播的这种风气盛行给直播内容的监管带来了巨大的挑战。那么在国家对于直播内容监管的要求日益严格下，我们如何才能节省更多的人力成本以及资金成本去对我们的内容监管而不像下图进行大规模的人工审核呢？

图1-1

就让我们带着这个问题一探腾讯云在此方面是如何做到直播审核的。

审核架构：

图1-2

1、主播推流到视频直播中心平台

2、对直播流进行指定频率的截帧存放在cos存储

3、天御视频审核将异常的图片回调到客户服务器，可进行二次验证已经存档

解决方案：

针对直播鉴黄目前有两种场景：一种是直播截图鉴黄，此方式是最普遍也是采用最多的，一种是采用mps视频处理方式，调用ProcessLiveStream接口进行直播流的审核。针对两种场景我们一一道来。

直播截图鉴黄：

采用截图鉴黄我们需要准备以下几个操作步骤

（1）创建截图模板，创建模板的时候需要调整PornFlag参数为1，代表开启鉴黄（可以通过控制台配置模板也可以调用接口）控制台开启见下图

参考接口：https://cloud.tencent.com/document/product/267/32624。

图1-3

（2）创建截图规则，此规则主要是针对需要指定哪个域名进行绑定，当然也可以指定某个AppName或者指定的某路流进行鉴黄，高度可自由选择，参考文档接口https://cloud.tencent.com/document/product/267/32625。

（3）绑定完以后就可以进行推流测试，新发起的直播会自动开启鉴黄功能，绑定截图如下：

图1-4

以上是如何鉴黄，那么针对鉴黄的结果如何得知呢，这就需要我们配置鉴黄回调来查看结果，可在鉴黄回调模板中配置注册的回调域名，则云直播后台会将鉴黄结果回调给您，默认只会将可疑结果进行回调，正常结果不会回调。再次注意的是也需要创建鉴黄回调模板以及规则，鉴黄结果以 JSON 格式存放在 HTTP Body 中，您可以只通过 type 字段来判断直播是否涉黄。由于检测系统判定无法做到100%准确率，会有少量图片会识别成疑似色情或识别结果不对，建议可以进行人工二次确认。

图1-5

注意：控制台针对截图以及回调模板只能绑定域名，不能针对appname维度以及流名称维度绑定，如果有此需求只能通过接口进行创建绑定。

mps视频处理审核：

对直播流媒体发起处理任务，功能包括：智能内容审核（画面鉴黄、鉴政、鉴暴、声音鉴黄）；

直播流处理事件通知实时写入用户指定的消息队列 CMQ 中，用户需要从消息队列 CMQ 中获取事件通知结果，同时处理过程中存在输出文件的，会写入用户指定的输出文件的目标存储中，此方式用的较少，多用于第一种方式。参考文档：https://cloud.tencent.com/document/product/862/39227。

腾讯直播审核优势：

（1）费用低：省去传统的耗费大量的人工审核成本

（2）多年积累的智能AI算法，数亿次的深度学习与训练优化

（3）高度灵活的配置，针对不同的场景采用不同的频率监测

（4）多场景的审核，包括但不限于涉黄，涉政、涉暴等

常见问题：

在了解完直播审核的使用之后，我们来看下常见的问题：

Q:开通了截图功能，但是cos未收到截图

A：可以检查cos是否赋予了写权限，以及截图模板里的region和bucket是否正确，该bucket不带appid

Q:直播鉴黄的图片如何查看

A:通过配置回调，直播后台会将鉴黄结果通过 HTTP POST 请求发送配置的回调域名

Q:腾讯云后台是否会对直播流进行审核

A:后台会对所有线上流进行审核，发现涉黄违规会进行账号封停操作，封停之后需要再次直播，需要签订协议开通，保证后续不再进行违规直播

Q:开通鉴黄后如何收费

A:需要收截图到cos存储费用和鉴黄费用

Q:云直播鉴黄功能，需确认是否可以对弹幕敏感内容进行处理

A:目前直播仅对内容进行鉴黄，无法对弹幕进行处理

Q:直播 需确定是否有产品能在直播中识别文字

A:可以采用mps产品的直播流审核

Q:使用云直播 调用了直播鉴黄 如果有检测到违规的图片 如何设置能够操作一键结束直播 或者系统自动结束直播 麻烦核实处理下

A:无法做到，可以调用我们直播断流接口进行禁播

Q:confidence值是否可以修改

A:confidence只是提供的参考值，内部针对审核结果给的参考分数

小结：

腾讯云视频直播审核审核可以方便的为用户提供直播视频审核的能力，不用再雇佣大量的直播审核员，减少人力资源的耗费的同时提高了审核效率，欢迎登陆腾讯云官网了解详情并申请开通https://cloud.tencent.com/document/product/267/32741。