控制台指南

最佳实践

开发者指南

API 文档

SDK 文档

设置视频审核

最近更新时间:2021-09-06 17:55:01

简介

本文介绍如何通过控制台使用对象存储(Cloud Object Storage,COS)的视频审核功能。视频审核的检测场景包括鉴黄鉴政鉴暴恐广告检测。当您开启视频审核功能后,该存储桶中新增的视频将在上传时自动进行检测,并支持自动冻结(禁止公有读访问)已检测的违规内容。

您也可以对 COS 中的存量视频进行扫描审核,详情请参见 设置存量数据审核任务视频审核 API 文档。

注意:

  • 视频审核功能基于视频截帧技术,通过对所截图片进行审核的方式实现此功能。开启视频审核时您可选择截帧方式,详情请查看下方操作步骤。
  • 视频审核是付费服务,由数据万象收取,数据万象提供每日2000次的免费鉴图额度,未用完的额度不累计至下一天,计费系统会扣除免费的2000次(免费额度优先抵扣 确定部分 的次数),详细的计费说明请参见 内容审核费用
  • 当前视频审核的视频限制为:视频格式支持 mp4、avi、mkv、wmv、rmvb、flv、m3u8、mov、m4v、3gp,视频大小不能超过5GB,截帧数不能超过1万帧。

操作步骤

  1. 登录 对象存储控制台,在【存储桶列表】页面选择需操作的存储桶,进入存储桶管理页面。
  2. 在左侧导航栏中,选择【内容审核】,单击【增量数据审核】>【视频审核】。
  3. 单击【添加视频审核配置】,进入视频审核配置页面,按照如下配置项说明进行配置:
    • 审核范围:可选择审核的范围为整个存储桶或指定范围。
      • 审核路径:当选择指定范围,则填写您希望审核视频所在的路径。
        示例1:如您需要审核指定目录 test 内的文件,则需要填写指定前缀为 test/。
        示例2:如您需要审核指定前缀为123的文件,则需要填写指定前缀为123。
        注意:

        您可以添加多条审核配置,但审核路径不能重复或存在包含关系。例如您已经配置了审核整个存储桶,则不能再添加针对存储桶内某个路径的审核。

    • 审核后缀:视频格式支持 mp4、avi、mkv、wmv、rmvb、flv、m3u8、mov、m4v、3gp,支持多选。
    • 审核内容:支持审核视频画面和视频声音。
    • 选择审核策略:请选择您配置的审核策略,不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、涉暴恐、政治敏感、广告审核场景,可勾选一种或多种检测场景。您可以前往 设置公共审核策略 查看如何配置审核策略。
    • 审核场景:支持审核涉黄、涉暴恐、政治敏感、广告审核场景,可勾选一种或多种检测场景。
    • 审核截帧规则:视频审核基于视频截帧,通过对所截图片进行审核的方式实现此功能。支持固定时间、固定帧率和固定数量审核截帧。
      • 固定时间:以固定时间间隔截取图片进行审核。您可设定时间间隔和单视频最大截帧数。
      • 固定帧率:每秒截取固定帧数图片进行审核。您可设定每秒截帧数和单视频最大截帧数。
      • 固定数量:按照平均百分比对全视频截取固定数量图片进行审核。
        注意:

        截帧规则的设定会影响审核的结果。

    • 敏感文件冻结:您可以开启敏感文件冻结服务,开启后将授权数据万象对相应类型文件进行自动机审冻结或人工审核冻结,从而禁止公有读访问检测出的违规内容。开启服务后,您需要选择冻结类型。
    • 冻结类型:您可指定冻结类型,同时选择冻结机制。默认选择机审自动冻结,若您选择人工审核冻结,则天御专业团队将会对机审结果为敏感的视频进行二次复检。
      注意:

      人工审核冻结价格为70元/千次,详情请查看 内容审核费用

    • 回调设置:开启回调后将把相应视频的审核结果反馈给您。您需选择回调的审核类型、回调内容,同时设置回调 URL。回调详情请查看 回调内容
  4. 配置完成后,单击【保存】即可启用该功能。后续将对您新上传的视频文件进行审核。

回调内容

设置回调地址后,系统会发送一份默认回调信息至您设置的回调地址,以检测回调地址是否能够正常接收回调信息。默认回调信息如下:

{
    "code": 0,
    "data": {
        "forbidden_status": 0,
        "porn_info": {
            "hit_flag": 0,
            "label": "",
            "count": 9
        },
        "result": 0,
        "trace_id": "test_trace_id",
        "url": "test_image"
    },
    "message": "Test request when setting callback url"
}  

说明:

  • 如需查看被冻结的视频,可参见 审核详情
  • 对于腾讯云冻结的视频,如果勾选了回调,此类视频也会返回给您,但是无法进行公有读访问。
  • 回调 URL 需以 HTTP 或 HTTPS 开头且默认返回200正确码方可进行使用,请在保存设置前进行检查。
  • 回调 URL 预计30分钟后生效。
  • 回调 URL 设置生效后,当发现上传的视频分值在阈值内,数据万象会默认回调该 URL,向其发送一个标准的 HTTP POST 通知消息。HTTP 包信息如下表。
参数名称 描述 类型 是否必选
event 触发的事件:ReviewVideo String
forbidden_status 冻结状态,0表示正常,1表示视频已被冻结 Int
porn_info 涉黄信息,包括是否命中、审核分数及详细标签等 json
terrorist_info 涉暴恐信息,包括是否命中、审核分数及详细标签等 json
politics_info 涉政信息,包括是否命中、审核分数及敏感人物信息等 json
ads_info 广告引导信息,包括是否命中、审核分数及详细标签等 json
result 供参考的识别结果,0为确认正常,1为确认敏感,2为疑似敏感 Int
trace_id 提交的审核任务的 jobid String
url 上传后的资源 URL,包括域名 String
cos_headers 资源上传时设定的自定义 Header 内容 json

审核信息(porn_info、terrorist_info、politics_info、ads_info)中包含如下内容:

参数名称 描述 类型 是否必选
hit_flag 是否命中该审核分类 Int
label 识别出的图片标签 String
count 视频文件回调参数,命中该审核分类的截图张数 Int

以下为回调内容示例:

 {
   "code": 0,
   "data": {
       "event":"ReviewVideo",
       "forbidden_status": 0,
       "porn_info": {
           "hit_flag": 0,
           "label": "",
           "count": 0
       },
       "terrorist_info": {
           "hit_flag": 0,
           "label": "",
           "count": 0
       },
       "result": 0,
       "trace_id": "vxzt90jl2dfscxxxxxxxxxxxxxxxxx",
       "url": "https://examplebucket-1250000000.cos.ap-shanghai.myqcloud.com/test.mp4",
       "cos_headers": {
           "x-cos-meta-id": "666666"
       }
   },
   "message": "success"
}

相关说明

  1. 视频审核为打分制,对于每一张视频截帧截取出来的图片均有一个0 - 100的分值。
  2. 确定部分指确定是敏感图片和确定正常的图片,分值在60分以下及90分以上,无需人工干预。
  3. 不确定部分指疑似敏感图片,系统无法区分是否涉敏,分值在60 - 90,建议用户通过人工审核的方式确定。
目录