有奖捉虫:办公协同&微信生态&物联网文档专题 HOT
云点播图片审核借助于 AI 审核出违规信息。审核的结果包括审核评分、审核建议。根据“审核建议”,媒体管理者可以决定图片是否允许公开,有效规避违规图片带来的法律风险和品牌伤害。
云点播可以对画面图像、画面中的文本两种对象进行审核,审核标签包括色情、暴力、不适宜的信息、违法、谩骂、广告等。
对象
审核标签
画面图像
色情(Porn)
暴力(Terror)
不适宜的信息(Polity)
广告(Ad)
违法(Illegal)
画面中的文本(OCR)
色情(Porn)
暴力(Terror)
不适宜的信息(Polity)
广告(Ad)
违法(Illegal)
谩骂(Abuse)
审核结果如下表所示:
字段名
类型
含义
Confidence
Float
审核评分(0 - 100),评分越高,嫌疑越大。
Suggestion
String
审核建议,有 pass,review,block 三种:
pass:嫌疑度不高,建议直接通过。
review:嫌疑度较高,建议人工复核。
block:嫌疑度很高,建议直接屏蔽。

发起处理

有两种方式发起图片审核:通过云点播 控制台 操作或服务端 API 图片审核 调用。

获取结果

不论以何种方式发起处理,审核结果都立即返回(即同步返回)。 通过云点播控制台发起的,输出结果参见云点播 控制台 ;通过服务端 API 图片审核 调用发起的,输出结果数据格式参见 图片审核 - 3. 输出参数