视频鉴黄

最近更新时间:2021-01-27 16:01:16

在个人直播录制、UGC 短视频等场景中,视频内容是不可预知的。为了避免一些违规内容出现在点播平台上,开发者会要求先对上传的视频做审核,确认合规后再进行转码和分发。腾讯云短视频解决方案支持对视频进行 AI 鉴黄,自动识别视频是否涉及色情内容。

使用 AI 鉴黄

AI 鉴黄功能需要集成在视频处理任务流中使用,它依赖于云点播后台的 视频 AI - 内容审核,审核结果通过事件通知的方式来通知 App 后台服务。云点播内置了一个任务流 QCVB_ProcessUGCFile 用于 UGC 短视频鉴黄场景,当用户使用该任务流并指定进行 AI 鉴黄时,鉴黄操作将优先执行,并根据鉴黄结果来决定是否进行后续处理(转码、打水印和截图等)。流程图如下:

AI 模版介绍

模版 ID 涉黄处理 采样频率
10 终止任务流(转码、打水印、截图等均不会执行) 时长小于500秒的视频,每1秒采样1次;时长大于或等于500秒的视频,每1%时长采样1次
20 继续执行任务流

AI 鉴定接入示例

步骤1:在生成上传签名时提交 AI 鉴黄任务

/**
* 响应签名请求并上传带有 AI 鉴黄任务
*/
function getUploadSignature(req, res) {
   res.json({
       code: 0,
       message: 'ok',
       data: {
           //上传时指明模版参数与任务流
           signature: gVodHelper.createFileUploadSignature({ procedure: 'QCVB_SimpleProcessFile({1,1,1,1})' })
       }
   });
}

步骤2:在获事件通知时获取 AI 鉴黄结果

/**
* 获取事件的 AI 鉴黄结果
*/
function getAiReviewResult(event){
  let data = event.eventContent.data;
  if(data.aiReview){
      return data.aiReview;
  }
  return {};
}
目录