服务端 API 文档

视频内容审核

最近更新时间:2021-07-01 20:15:50

视频内容审核是借助于 AI 对视频内容进行智能审核,是一种离线任务。任务的执行结果中,包括审核评分、审核建议和嫌疑视频片段。根据“审核建议”,视频管理者可以决定视频是否允许公开,有效规避违规视频带来的法律风险和品牌伤害。

云点播可以对视频画面、ASR 文字和 OCR 文字三种对象进行智能识别,其操作包括令人反感的信息、令人不安全的信息和令人不适宜的信息。

对象 操作 说明
视频画面(人和物体)
令人反感的信息 对视频画面做令人反感的信息识别,识别内容包括:
  • vulgar:低俗
  • intimacy:亲密行为
  • sexy:性感
  • 令人不安全的信息 对视频画面做令人不安全的信息识别,识别内容包括:
  • militant:武装分子
  • guns:武器枪支
  • bloody:血腥画面
  • police:警察部队
  • crowd:人群聚集
  • 令人不适宜的信息 对视频画面做令人不适宜的信息识别,识别内容包括:
  • violation_photo:违规图标
  • politician:政治人物
  • ASR 文字(音频中的文字) 令人反感的信息 对音频中的文字做令人反感的信息识别,识别出嫌疑关键词
    令人不适宜的信息 对音频中的文字做令人不适宜的信息识别,识别出嫌疑关键词
    OCR 文字(画面中的文字) 令人反感的信息 对画面中的文字做令人反感的信息识别,识别出嫌疑关键词
    令人不适宜的信息 对画面中的文字做令人不适宜的信息识别,识别出嫌疑关键词
    字段名 类型 含义
    confidence Float 审核评分(0 - 100),评分越高,嫌疑越大
    suggestion String 审核建议,有 pass,review,block 三种:
    • pass:嫌疑度不高,建议直接通过
    • review:嫌疑度较高,建议人工复核
    • block:嫌疑度很高,建议直接屏蔽
    segments Array 有嫌疑的视频片段,帮助定位视频中具体哪一段涉嫌违规

    视频审核模板

    通过视频审核参数,可以控制审核任务具体执行哪几项审核操作。云点播使用视频审核模板来表示审核参数集合,通过视频审核模板,可以指定审核任务中执行以下哪一项或几项操作:

    • 对视频画面做令人反感的信息识别
    • 对视频画面做令人不安全的信息识别
    • 对视频画面做令人不适宜的信息识别
    • 对 ASR 文字做令人反感的信息识别
    • 对 ASR 文字做令人不适宜的信息识别
    • 对 OCR 文字做令人反感的信息识别
    • 对 OCR 文字做令人不适宜的信息识别

    针对常见的操作组合,云点播提供了 预置视频审核模板。另外,您还可以调用 服务端 API 创建和管理自定义视频审核模板。

    任务发起

    发起视频内容审核任务,有“通过服务端 API 直接发起”、“通过控制台直接发起”和“上传时指定要执行的任务”三种方式。具体请参照视频处理的 任务发起

    以下是各种方式发起视频内容审核任务的说明:

    结果获取

    发起视频审核任务后,您可以通过异步等待 结果通知 和同步进行 任务查询 两种方式获取视频审核任务的执行结果。下面是发起审核任务后,普通回调方式下结果通知的示例(省略了值为 null 的字段):

    {
       "EventType":"ProcedureStateChanged",
       "ProcedureStateChangeEvent":{
           "TaskId":"1256768367-Procedure-2e1af2456351812be963e309cc133403t0",
           "Status":"FINISH",
           "FileId":"5285890784246869930",
           "FileName":"动物世界",
           "FileUrl":"http://1256768367.vod2.myqcloud.com/xxx/xxx/AtUCmy6gmIYA.mp4",
           "MetaData":{
               "AudioDuration":60,
               "AudioStreamSet":[
                   {
                       "Bitrate":383854,
                       "Codec":"aac",
                       "SamplingRate":48000
                   }
               ],
               "Bitrate":1021028,
               "Container":"mov,mp4,m4a,3gp,3g2,mj2",
               "Duration":60,
               "Height":480,
               "Rotate":0,
               "Size":7700180,
               "VideoDuration":60,
               "VideoStreamSet":[
                   {
                       "Bitrate":637174,
                       "Codec":"h264",
                       "Fps":23,
                       "Height":480,
                       "Width":640
                   }
               ],
               "Width":640
           },
           "AiContentReviewResultSet":[
               {
                   "Type":"Porn",
                   "PornTask":{
                       "Status":"SUCCESS",
                       "ErrCode":0,
                       "Message":"",
                       "Input":{
                           "Definition":10
                       },
                       "Output":{
                           "Confidence":98,
                           "Suggestion":"block",
                           "Label":"sexy",
                           "SegmentSet":[
                               {
                                   "StartTimeOffset":9.5,
                                   "EndTimeOffset":14,
                                   "Confidence":98,
                                   "Suggestion":"block",
                                   "Label":"sexy",
                                   "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx1.jpg",
                                   "PicUrlExpireTimeStamp":1530005146
                               },
                               {
                                   "StartTimeOffset":16.5,
                                   "EndTimeOffset":18,
                                   "Confidence":80,
                                   "Suggestion":"review",
                                   "Label":"sexy",
                                   "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx2.jpg",
                                   "PicUrlExpireTimeStamp":1530005146
                               },
                               {
                                   "StartTimeOffset":41,
                                   "EndTimeOffset":49,
                                   "Confidence":97,
                                   "Suggestion":"block",
                                   "Label":"sexy",
                                   "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx3.jpg",
                                   "PicUrlExpireTimeStamp":1530005146
                               }
                           ]
                       }
                   }
               },
               {
                   "Type":"Terrorism",
                   "TerrorismTask":{
                       "Status":"SUCCESS",
                       "ErrCode":0,
                       "Message":"",
                       "Input":{
                           "Definition":10
                       },
                       "Output":{
                           "Confidence":0,
                           "Suggestion":"pass",
                           "SegmentSet":[
                            ]
                       }
                   }
               },
               {
                   "Type":"Political",
                   "PoliticalTask":{
                       "Status":"SUCCESS",
                       "ErrCode":0,
                       "Message":"",
                       "Input":{
                           "Definition":10
                       },
                       "Output":{
                           "Confidence":0,
                           "Suggestion":"pass",
                           "SegmentSet":[
                            ]
                       }
                   }
               }
           ],
           "TasksPriority":0,
           "TasksNotifyMode":""
       }
    }

    回调结果中,ProcedureStateChangeEvent.AiContentReviewResultSetTypePornTerrorismPolitical三种类型的审核结果,分别代表视频画面令人反感的信息、视频画面令人不安全的信息和视频画面令人不适宜的信息。

    • TypePorn的结果显示,Output.Suggestionblock,即令人反感的信息可能性高,建议拦截,令人反感的信息的置信度为98分,令人反感的信息的原因是sexy(性感)。
    • TypePorn的结果Output.SegmentSet,给出了三段有令人反感的信息嫌疑的视频片段,每个片段的StartTimeOffsetEndTimeOffset标明了片段起止时间。
    • TypeTerrorismPolitical的结果显示,视频没有令人不安全的信息和令人不适宜的信息的嫌疑。
    目录