视频鉴黄

最近更新时间:2024-04-01 15:09:52

我的收藏
在个人直播录制、UGC 短视频等场景中,视频内容是不可预知的。为了避免一些违规内容出现在点播平台上,开发者会要求先对上传的视频做审核,确认合规后再进行转码和分发。腾讯云短视频解决方案支持对视频进行 AI 鉴黄,自动识别视频是否涉及色情内容。

使用 AI 鉴黄

AI 鉴黄功能需要集成在视频处理任务流中使用,它依赖于云点播后台的 视频 AI - 内容审核,审核结果通过事件通知的方式来通知 App 后台服务。云点播内置了一个任务流 QCVB_ProcessUGCFile 用于 UGC 短视频鉴黄场景,当用户使用该任务流并指定进行 AI 鉴黄时,鉴黄操作将优先执行,并根据鉴黄结果来决定是否进行后续处理(转码、打水印和截图等)。流程图如下:



AI 模板介绍

模板 ID
涉黄处理
采样频率
10
终止任务流(转码、打水印、截图等均不会执行)
时长小于500秒的视频,每1秒采样1次
时长大于或等于500秒的视频,每1%时长采样1次
20
继续执行任务流

AI 鉴定接入示例

步骤1:在生成上传签名时提交 AI 鉴黄任务

/**
* 响应签名请求并上传带有 AI 鉴黄任务
*/
function getUploadSignature(req, res) {
res.json({
code: 0,
message: 'ok',
data: {
//上传时指明模板参数与任务流
signature: gVodHelper.createFileUploadSignature({ procedure: 'QCVB_SimpleProcessFile({1,1,1,1})' })
}
});
}

步骤2:在获事件通知时获取 AI 鉴黄结果

/**
* 获取事件的 AI 鉴黄结果
*/
function getAiReviewResult(event){
let data = event.eventContent.data;
if(data.aiReview){
return data.aiReview;
}
return {};
}