视频内容审核

最近更新时间:2019-06-17 19:41:33

视频内容审核是借助于 AI 对视频内容进行智能审核,是一种离线任务。任务的执行结果中,包括审核评分、审核建议和嫌疑视频片段。根据“审核建议”,视频管理者可以决定视频是否允许公开,有效规避违规视频带来的法律风险和品牌伤害。

云点播可以对视频画面、Asr 文字和 Ocr 文字三种对象进行智能审核,审核操作包括鉴黄、鉴暴和鉴政。

对象 操作 说明
视频画面(人和物体)
鉴黄 对视频画面做涉黄检查,检查内容包括:
  • porn:色情
  • vulgar:低俗
  • intimacy:亲密行为
  • sexy:性感
  • 鉴暴 对视频画面做涉暴检查,检查内容包括:
  • militant:武装分子
  • guns:武器枪支
  • bloody:血腥画面
  • explosion:爆炸火灾
  • banners:暴恐旗帜
  • terrorists:暴恐人物
  • police:警察部队
  • crowd:人群聚集
  • 鉴政 对视频画面做涉政检查,检查内容包括:
  • violation_photo:违规图标
  • politician:政治人物
  • Asr 文字(音频中的文字) 鉴黄 对音频中的文字做涉黄检查,识别出嫌疑关键词
    鉴政 对音频中的文字做涉政检查,识别出嫌疑关键词
    Ocr 文字(画面中的文字) 鉴黄 对画面中的文字做涉黄检查,识别出嫌疑关键词
    鉴政 对画面中的文字做涉政检查,识别出嫌疑关键词
    字段名 类型 含义
    confidence Float 审核评分(0 - 100),评分越高,嫌疑越大
    suggestion String 审核建议,有 pass,review,block 三种:
    • pass:嫌疑度不高,建议直接通过
    • review:嫌疑度较高,建议人工复核
    • block:嫌疑度很高,建议直接屏蔽
    segments Array 有嫌疑的视频片段,帮助定位视频中具体哪一段涉嫌违规

    视频内容审核模板

    通过视频内容审核参数,可以控制审核任务具体执行哪几项审核操作。云点播使用视频内容审核模板来表示智能审核参数集合,通过视频内容审核模板,可以指定审核任务中执行以下哪一项或几项操作:

    • 对视频画面做鉴黄
    • 对视频画面做鉴暴
    • 对视频画面做鉴政
    • 对 Asr 文字做鉴黄
    • 对 Asr 文字做鉴政
    • 对 Ocr 文字做鉴黄
    • 对 Ocr 文字做鉴政

    针对常见的操作组合,云点播提供了 预置视频内容审核模板。另外,您还可以调用 服务端 API 创建和管理自定义视频内容审核模板。

    任务发起

    发起视频内容审核任务,有“通过服务端 API 直接发起”、“通过控制台直接发起”和“上传时指定要执行的任务”三种方式。具体请参照视频处理的 任务发起

    以下是各种方式发起视频内容审核任务的说明:

    结果获取

    发起视频内容审核任务后,您可以通过异步等待 结果通知 和同步进行 任务查询 两种方式获取视频内容审核任务的执行结果。下面是发起内容审核任务后,普通回调方式下结果通知的示例(省略了值为 null 的字段):

    {
        "EventType":"ProcedureStateChanged",
        "ProcedureStateChangeEvent":{
            "TaskId":"1256768367-Procedure-2e1af2456351812be963e309cc133403t0",
            "Status":"FINISH",
            "FileId":"5285890784246869930",
            "FileName":"动物世界",
            "FileUrl":"http://1256768367.vod2.myqcloud.com/xxx/xxx/AtUCmy6gmIYA.mp4",
            "MetaData":{
                "AudioDuration":60,
                "AudioStreamSet":[
                    {
                        "Bitrate":383854,
                        "Codec":"aac",
                        "SamplingRate":48000
                    }
                ],
                "Bitrate":1021028,
                "Container":"mov,mp4,m4a,3gp,3g2,mj2",
                "Duration":60,
                "Height":480,
                "Rotate":0,
                "Size":7700180,
                "VideoDuration":60,
                "VideoStreamSet":[
                    {
                        "Bitrate":637174,
                        "Codec":"h264",
                        "Fps":23,
                        "Height":480,
                        "Width":640
                    }
                ],
                "Width":640
            },
            "AiContentReviewResultSet":[
                {
                    "Type":"Porn",
                    "PornTask":{
                        "Status":"SUCCESS",
                        "ErrCode":0,
                        "Message":"",
                        "Input":{
                            "Definition":10
                        },
                        "Output":{
                            "Confidence":98,
                            "Suggestion":"block",
                            "Label":"sexy",
                            "SegmentSet":[
                                {
                                    "StartTimeOffset":9.5,
                                    "EndTimeOffset":14,
                                    "Confidence":98,
                                    "Suggestion":"block",
                                    "Label":"sexy",
                                    "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx1.jpg",
                                    "PicUrlExpireTimeStamp":1530005146
                                },
                                {
                                    "StartTimeOffset":16.5,
                                    "EndTimeOffset":18,
                                    "Confidence":80,
                                    "Suggestion":"review",
                                    "Label":"sexy",
                                    "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx2.jpg",
                                    "PicUrlExpireTimeStamp":1530005146
                                },
                                {
                                    "StartTimeOffset":41,
                                    "EndTimeOffset":49,
                                    "Confidence":97,
                                    "Suggestion":"block",
                                    "Label":"sexy",
                                    "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx3.jpg",
                                    "PicUrlExpireTimeStamp":1530005146
                                }
                            ]
                        }
                    }
                },
                {
                    "Type":"Terrorism",
                    "TerrorismTask":{
                        "Status":"SUCCESS",
                        "ErrCode":0,
                        "Message":"",
                        "Input":{
                            "Definition":10
                        },
                        "Output":{
                            "Confidence":0,
                            "Suggestion":"pass",
                            "SegmentSet":[
    
                            ]
                        }
                    }
                },
                {
                    "Type":"Political",
                    "PoliticalTask":{
                        "Status":"SUCCESS",
                        "ErrCode":0,
                        "Message":"",
                        "Input":{
                            "Definition":10
                        },
                        "Output":{
                            "Confidence":0,
                            "Suggestion":"pass",
                            "SegmentSet":[
    
                            ]
                        }
                    }
                }
            ],
            "TasksPriority":0,
            "TasksNotifyMode":""
        }
    }

    回调结果中,ProcedureStateChangeEvent.AiContentReviewResultSetTypePornTerrorismPolitical三种类型的审核结果,分别代表视频画面鉴黄、视频画面鉴暴和视频画面鉴政。

    • TypePorn的结果显示,Output.Suggestionblock,即涉黄可能性高,建议拦截,涉黄的置信度为98分,涉黄的原因是sexy(性感)。
    • TypePorn的结果Output.SegmentSet,给出了三段有涉黄嫌疑的视频片段,每个片段的StartTimeOffsetEndTimeOffset标明了片段起止时间。
    • TypeTerrorismPolitical的结果显示,视频没有涉暴和涉政的嫌疑。