开发指南

服务端 API 文档

有奖征文|投稿上云技术实践,赢取价值5000元大奖> HOT

音视频内容审核是借助于 AI 对视频内容进行智能审核,是一种离线任务。任务的执行结果中,包括审核评分、审核建议和嫌疑视频片段。根据“审核建议”,视频管理者可以决定视频是否允许公开,有效规避违规视频带来的法律风险和品牌伤害。

云点播可以对视频画面、ASR 文字和 OCR 文字三种对象进行智能识别,其操作包括令人反感的信息、令人不安全的信息和令人不适宜的信息。

对象 操作 说明
视频画面(人和物体)
令人反感的信息 对视频画面做令人反感的信息识别,识别内容包括:
  • vulgar:低俗
  • intimacy:亲密行为
  • sexy:性感
  • 令人不安全的信息 对视频画面做令人不安全的信息识别,识别内容包括:
  • militant:武装分子
  • guns:武器枪支
  • bloody:血腥画面
  • police:警察部队
  • crowd:人群聚集
  • 令人不适宜的信息 对视频画面做令人不适宜的信息识别,识别内容包括:
  • violation_photo:违规图标
  • politician:相关人物
  • ASR 文字(音频中的文字) 令人反感的信息 对音频中的文字做令人反感的信息识别,识别出嫌疑关键词
    令人不适宜的信息 对音频中的文字做令人不适宜的信息识别,识别出嫌疑关键词
    OCR 文字(画面中的文字) 令人反感的信息 对画面中的文字做令人反感的信息识别,识别出嫌疑关键词
    令人不适宜的信息 对画面中的文字做令人不适宜的信息识别,识别出嫌疑关键词
    字段名 类型 含义
    confidence Float 审核评分(0 - 100),评分越高,嫌疑越大
    suggestion String 审核建议,有 pass,review,block 三种:
    • pass:嫌疑度不高,建议直接通过
    • review:嫌疑度较高,建议人工复核
    • block:嫌疑度很高,建议直接屏蔽
    segments Array 有嫌疑的视频片段,帮助定位视频中具体哪一段涉嫌违规

    视频审核模板

    通过视频审核参数,可以控制审核任务具体执行哪几项审核操作。云点播使用视频审核模板来表示审核参数集合,通过视频审核模板,可以指定审核任务中执行以下哪一项或几项操作:

    • 对视频画面做令人反感的信息识别
    • 对视频画面做令人不安全的信息识别
    • 对视频画面做令人不适宜的信息识别
    • 对 ASR 文字做令人反感的信息识别
    • 对 ASR 文字做令人不适宜的信息识别
    • 对 OCR 文字做令人反感的信息识别
    • 对 OCR 文字做令人不适宜的信息识别

    针对常见的操作组合,云点播提供了 预置视频审核模板。另外,您还可以调用 服务端 API 创建和管理自定义视频审核模板。

    任务发起

    发起音视频内容审核任务,有“通过服务端 API 直接发起”、“通过控制台直接发起”和“上传时指定要执行的任务”三种方式。具体请参照视频处理的 任务发起

    以下是各种方式发起音视频内容审核任务的说明:

    结果获取

    发起视频审核任务后,您可以通过异步等待 结果通知 和同步进行 任务查询 两种方式获取视频审核任务的执行结果。下面是发起审核任务后,普通回调方式下结果通知的示例(省略了值为 null 的字段):

    {
        "EventType":"ProcedureStateChanged",
        "ProcedureStateChangeEvent":{
            "TaskId":"1256768367-Procedure-2e1af2456351812be963e309cc133403t0",
            "Status":"FINISH",
            "FileId":"5285890784246869930",
            "FileName":"动物世界",
            "FileUrl":"http://1256768367.vod2.myqcloud.com/xxx/xxx/AtUCmy6gmIYA.mp4",
            "MetaData":{
                "AudioDuration":60,
                "AudioStreamSet":[
                    {
                        "Bitrate":383854,
                        "Codec":"aac",
                        "SamplingRate":48000
                    }
                ],
                "Bitrate":1021028,
                "Container":"mov,mp4,m4a,3gp,3g2,mj2",
                "Duration":60,
                "Height":480,
                "Rotate":0,
                "Size":7700180,
                "VideoDuration":60,
                "VideoStreamSet":[
                    {
                        "Bitrate":637174,
                        "Codec":"h264",
                        "Fps":23,
                        "Height":480,
                        "Width":640
                    }
                ],
                "Width":640
            },
            "AiContentReviewResultSet":[
                {
                    "Type":"Porn",
                    "PornTask":{
                        "Status":"SUCCESS",
                        "ErrCode":0,
                        "Message":"",
                        "Input":{
                            "Definition":10
                        },
                        "Output":{
                            "Confidence":98,
                            "Suggestion":"block",
                            "Label":"sexy",
                            "SegmentSet":[
                                {
                                    "StartTimeOffset":9.5,
                                    "EndTimeOffset":14,
                                    "Confidence":98,
                                    "Suggestion":"block",
                                    "Label":"sexy",
                                    "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx1.jpg",
                                    "PicUrlExpireTimeStamp":1530005146
                                },
                                {
                                    "StartTimeOffset":16.5,
                                    "EndTimeOffset":18,
                                    "Confidence":80,
                                    "Suggestion":"review",
                                    "Label":"sexy",
                                    "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx2.jpg",
                                    "PicUrlExpireTimeStamp":1530005146
                                },
                                {
                                    "StartTimeOffset":41,
                                    "EndTimeOffset":49,
                                    "Confidence":97,
                                    "Suggestion":"block",
                                    "Label":"sexy",
                                    "Url":"http://xxx.vod2.myqcluod.com/xxx/xxx/xx3.jpg",
                                    "PicUrlExpireTimeStamp":1530005146
                                }
                            ]
                        }
                    }
                },
                {
                    "Type":"Terrorism",
                    "TerrorismTask":{
                        "Status":"SUCCESS",
                        "ErrCode":0,
                        "Message":"",
                        "Input":{
                            "Definition":10
                        },
                        "Output":{
                            "Confidence":0,
                            "Suggestion":"pass",
                            "SegmentSet":[
    
                            ]
                        }
                    }
                },
                {
                    "Type":"Political",
                    "PoliticalTask":{
                        "Status":"SUCCESS",
                        "ErrCode":0,
                        "Message":"",
                        "Input":{
                            "Definition":10
                        },
                        "Output":{
                            "Confidence":0,
                            "Suggestion":"pass",
                            "SegmentSet":[
    
                            ]
                        }
                    }
                }
            ],
            "TasksPriority":0,
            "TasksNotifyMode":""
        }
    }

    回调结果中,ProcedureStateChangeEvent.AiContentReviewResultSetTypePornTerrorismPolitical三种类型的审核结果,分别代表视频画面令人反感的信息、视频画面令人不安全的信息和视频画面令人不适宜的信息。

    • TypePorn的结果显示,Output.Suggestionblock,即令人反感的信息可能性高,建议拦截,令人反感的信息的置信度为98分,令人反感的信息的原因是sexy(性感)。
    • TypePorn的结果Output.SegmentSet,给出了三段有令人反感的信息嫌疑的视频片段,每个片段的StartTimeOffsetEndTimeOffset标明了片段起止时间。
    • TypeTerrorismPolitical的结果显示,视频没有令人不安全的信息和令人不适宜的信息的嫌疑。
    目录