有奖捉虫:云通信与企业服务文档专题,速来> HOT
音视频内容审核是借助于 AI 对音视频内容进行智能审核,是一种离线任务。任务的执行结果中,包括审核评分、审核建议和嫌疑视频片段。根据“审核建议”,视频管理者可以决定视频是否允许公开,有效规避违规视频带来的法律风险和品牌伤害。
云点播可以对画面图像、画面中的文本、语音中的文本以及声音内容四种对象进行审核,审核标签包括色情、暴力、不适宜的信息、违法、谩骂、广告和娇喘。
对象
审核标签
画面图像
色情(Porn)
暴力(Terror)
不适宜的信息(Polity)
广告(Ad)
违法(Illegal)
声音
娇喘(Moan)
语音中的文本(ASR)
色情(Porn)
暴力(Terror)
不适宜的信息(Polity)
广告(Ad)
违法(Illegal)
谩骂(Abuse)
画面中的文本(OCR)
色情(Porn)
暴力(Terror)
不适宜的信息(Polity)
广告(Ad)
违法(Illegal)
谩骂(Abuse)
音视频审核结果部分字段说明:
字段名
类型
含义
Confidence
Float
审核评分(0 - 100),评分越高,嫌疑越大。
Suggestion
String
审核建议,有 pass,review,block 三种:
pass:嫌疑度不高,建议直接通过。
review:嫌疑度较高,建议人工复核。
block:嫌疑度很高,建议直接屏蔽。
Form
String
审核形式,有如下几种:
Image:画面图像。
Voice:声音。
OCR:画面中的文字。
ASR:语音中的文字。
Label
String
审核标签,有如下几种:
Porn:色情。
Terror:暴力。
Polity:不适宜的信息。
Illegal:违法。
Abuse:谩骂。
Ad:广告。
Moan:娇喘。

音视频审核模板

通过音视频审核参数,可以控制审核任务具体检测哪些审核标签。云点播使用视频审核模板来表示审核参数集合,通过视频审核模板,可以指定审核任务中检测哪一项或几项标签:
色情(Porn)
暴力(Terror)
不适宜的信息(Polity)
广告(Ad)
违法(Illegal)
娇喘(Moan)
谩骂(Abuse)
针对常见的操作组合,云点播提供了 预置音视频审核模板。另外,您还可以调用 服务端 API 创建和管理自定义视频审核模板。

任务发起

发起音视频内容审核任务,有“通过服务端 API 直接发起”、“通过控制台直接发起”和“上传时指定要执行的任务”三种方式。具体请参照视频处理的 任务发起
以下是各种方式发起音视频内容审核任务的说明:
通过服务端 API 直接发起。调用服务端 API ReviewAudioVideo 发起任务。
通过控制台直接发起。请参见控制台指南 音视频审核
服务端上传时指定任务:在控制台 添加任务流,任务流中开启内容审核;申请上传 中的procedure参数指定为该任务流。
客户端上传时指定任务:在控制台 添加任务流,任务流中开启内容审核;在 客户端上传签名 中的procedure指定该任务流。
控制台上传:在控制台 添加任务流,任务流中开启内容审核;通过控制台上传视频,选择 上传的同时对视频进行处理操作 并指定视频上传后执行该任务流。

结果获取

发起视频审核任务后,您可以通过异步等待 音视频审核完成 和同步进行 任务查询 两种方式获取视频审核任务的执行结果。下面是发起审核任务后,普通回调方式下结果通知的示例(省略了值为 null 的字段):
{
"EventType": "ReviewAudioVideoComplete",
"ReviewAudioVideoCompleteEvent": {
"TaskId": "125xxxx-ReviewAudioVideo-07edbc78ba20563cdf2362cffbf4aa0ct",
"Status": "FINISH",
"ErrCodeExt": "",
"Message": "SUCCESS",
"Input": {
"FileId": "387702130626135215"
},
"Output": {
"Suggestion": "block",
"Label": "Porn",
"Form": "Image",
"SegmentSet": [
{
"StartTimeOffset": 0,
"EndTimeOffset": 1,
"Confidence": 99,
"Suggestion": "block",
"Label": "Porn",
"SubLabel": "SexyBehavior",
"Form": "Image",
"AreaCoordSet": [],
"Text": "",
"KeywordSet": [],
"Url": "https://251000800.vod2.myqcloud.com/1a168d62vodcq251000800/result/vod/w-video-Y7uETQ0Oqj4SY3Fh/screenshot_0_1638163480.jpg",
"PicUrlExpireTime": "2023-01-16T03:06:16.039Z"
},
{
"StartTimeOffset": 1,
"EndTimeOffset": 2,
"Confidence": 99,
"Suggestion": "block",
"Label": "Porn",
"SubLabel": "SexyBehavior",
"Form": "Image",
"AreaCoordSet": [],
"Text": "",
"KeywordSet": [],
"Url": "https://251000800.vod2.myqcloud.com/1a168d62vodcq251000800/result/vod/w-video-Y7uETQ0Oqj4SY3Fh/screenshot_0_1638163481.jpg",
"PicUrlExpireTime": "2023-01-16T03:06:17.039Z"
},
{
"StartTimeOffset": 2,
"EndTimeOffset": 3,
"Confidence": 99,
"Suggestion": "block",
"Label": "Porn",
"SubLabel": "SexyBehavior",
"Form": "Image",
"AreaCoordSet": [],
"Text": "",
"KeywordSet": [],
"Url": "https://251000800.vod2.myqcloud.com/1a168d62vodcq251000800/result/vod/w-video-Y7uETQ0Oqj4SY3Fh/screenshot_0_1638163482.jpg",
"PicUrlExpireTime": "2023-01-16T03:06:18.039Z"
},
{
"StartTimeOffset": 3,
"EndTimeOffset": 4,
"Confidence": 99,
"Suggestion": "block",
"Label": "Porn",
"SubLabel": "SexyBehavior",
"Form": "Image",
"AreaCoordSet": [],
"Text": "",
"KeywordSet": [],
"Url": "https://251000800.vod2.myqcloud.com/1a168d62vodcq251000800/result/vod/w-video-Y7uETQ0Oqj4SY3Fh/screenshot_0_1638163483.jpg",
"PicUrlExpireTime": "2023-01-16T03:06:19.039Z"
},
{
"StartTimeOffset": 4,
"EndTimeOffset": 5,
"Confidence": 99,
"Suggestion": "block",
"Label": "Porn",
"SubLabel": "SexyBehavior",
"Form": "Image",
"AreaCoordSet": [],
"Text": "",
"KeywordSet": [],
"Url": "https://251000800.vod2.myqcloud.com/1a168d62vodcq251000800/result/vod/w-video-Y7uETQ0Oqj4SY3Fh/screenshot_0_1638163484.jpg",
"PicUrlExpireTime": "2023-01-16T03:06:20.039Z"
},
{
"StartTimeOffset": 5,
"EndTimeOffset": 6,
"Confidence": 99,
"Suggestion": "block",
"Label": "Porn",
"SubLabel": "SexyBehavior",
"Form": "Image",
"AreaCoordSet": [],
"Text": "",
"KeywordSet": [],
"Url": "https://251000800.vod2.myqcloud.com/1a168d62vodcq251000800/result/vod/w-video-Y7uETQ0Oqj4SY3Fh/screenshot_0_1638163485.jpg",
"PicUrlExpireTime": "2023-01-16T03:06:21.039Z"
},
{
"StartTimeOffset": 6,
"EndTimeOffset": 7,
"Confidence": 99,
"Suggestion": "block",
"Label": "Porn",
"SubLabel": "SexyBehavior",
"Form": "Image",
"AreaCoordSet": [],
"Text": "",
"KeywordSet": [],
"Url": "https://251000800.vod2.myqcloud.com/1a168d62vodcq251000800/result/vod/w-video-Y7uETQ0Oqj4SY3Fh/screenshot_0_1638163486.jpg",
"PicUrlExpireTime": "2023-01-16T03:06:22.039Z"
},
{
"StartTimeOffset": 7,
"EndTimeOffset": 8,
"Confidence": 99,
"Suggestion": "block",
"Label": "Porn",
"SubLabel": "SexyBehavior",
"Form": "Image",
"AreaCoordSet": [],
"Text": "",
"KeywordSet": [],
"Url": "https://251000800.vod2.myqcloud.com/1a168d62vodcq251000800/result/vod/w-video-Y7uETQ0Oqj4SY3Fh/screenshot_0_1638163487.jpg",
"PicUrlExpireTime": "2023-01-16T03:06:23.039Z"
},
{
"StartTimeOffset": 8,
"EndTimeOffset": 9,
"Confidence": 99,
"Suggestion": "block",
"Label": "Porn",
"SubLabel": "SexyBehavior",
"Form": "Image",
"AreaCoordSet": [],
"Text": "",
"KeywordSet": [],
"Url": "https://251000800.vod2.myqcloud.com/1a168d62vodcq251000800/result/vod/w-video-Y7uETQ0Oqj4SY3Fh/screenshot_0_1638163488.jpg",
"PicUrlExpireTime": "2023-01-16T03:06:24.039Z"
},
{
"StartTimeOffset": 9,
"EndTimeOffset": 10,
"Confidence": 99,
"Suggestion": "block",
"Label": "Porn",
"SubLabel": "SexyBehavior",
"Form": "Image",
"AreaCoordSet": [],
"Text": "",
"KeywordSet": [],
"Url": "https://251000800.vod2.myqcloud.com/1a168d62vodcq251000800/result/vod/w-video-Y7uETQ0Oqj4SY3Fh/screenshot_0_1638163489.jpg",
"PicUrlExpireTime": "2023-01-16T03:06:25.039Z"
}
],
"SegmentSetFileUrl": "http://251000800.vod2.myqcloud.com/a8800b40vodtranssgp251000800/0f9bd2b0-34a8-4642-f481-001894d93019.txt",
"SegmentSetFileUrlExpireTime": "2022-10-12T07:01:07.695Z"
},
"SessionContext": "",
"SessionId": ""
}
}
回调结果中,ReviewAudioVideoCompleteEvent.Output为音视频审核结果的输出,Output.Suggestion表示整体审核建议,这里为block即建议直接屏蔽。Output.Label=PornOutput.Form=Image说明最有可能的违规内容是视频画面包含色情的信息。
一个音视频可能存在多个违规片段,Output.SegmentSet列出其中的前 10 个片段(完整的违规结果可以在链接有效期内通过 Output.SegmentSetFileUrl获取)。
每个违规片段的StartTimeOffsetEndTimeOffset标明了片段在原始视频里的起止时间,SubLabel标明了片段具体的违规内容。
对于画面文字或语音文字识别:
Text标明片段识别出来的完整文字内容。
KeywordSet标明命中的违规关键词列表。
对于视频画面(人和物体)以及画面文字识别:
AreaCoordSet标明违规对象的区域坐标。
Url为违规画面截图链接。
PicUrlExpireTimeUrl过期时间,超过后链接不可访问。