文档中心>即时通信 IM>云端审核>配置审核场景和策略

配置审核场景和策略

最近更新时间:2024-05-28 10:56:42

我的收藏

通用场景及策略配置

开通云端审核服务后,默认为您开启了六大通用场景的音视图文审核。如果需要调整关闭某一场景的某一消息类型的开关,请单击修改场景配置


在弹窗中勾选/取消勾选对应项目,单击确定即可。




音视图文消息检测

按照业务所需,勾选/取消勾选 对应场景下的文本、图片、音频、视频类型内容即可。
注意:
单聊、群聊场景下,将音视/视频异步审核开启后,所有音频/视频都将正常送审并计费,对存储在腾讯云即时通信 IM 的文件会拦截。如有自定义存储的音频/视频内容,请谨慎开启!如需审核自定义存储的音频/视频内容,请通过监听音频/视频消息审核终端违规回调的方式,进行 UI 处理。

自定义消息检测

开启云端审核后,单聊、群聊的自定义消息默认当作文本送审。如果自定义消息结构为 json,只希望送审自定义消息的部分内容,可以参见如下方式:

方式一:按预设字段过滤送审

{
"To_Account":"lumotuwe5",
"MsgRandom":121212,
"MsgBody":[
{
"MsgType":"TIMCustomElem",
"MsgContent":{
"Data":"{\\"key1\\":\\"value1\\",\\"message\\":\\"hello\\",\\"IMAuditContentType\\":\\"Text\\",\\"IMAuditContent\\":\\"hello\\"}",
"Desc":"hello",
"Ext":"www.qq.com",
"Sound":"dingdong.aiff"
}
}
]
}
参数说明:
字段
类型
说明
IMAuditContentType
String
指定送审的内容类型:Text/Image/Audio/Video。
IMAuditContent
String
指定送审的内容,如果类型为:Image/Audio/Video,该字段填文件 URL。
说明:
指定的字段,需要放置在自定义消息 json 结构体的第一层 kv 元素里面。该方式支持音视图文等消息的审核,当送审的内容为音视频的文件,违规的消息处置请参见 终端违规回调。如果一条自定义消息,有多个元素需要同时送审,支持按如下配置提取相应内容送审,最多支持10个元素审核:
{"IMAuditContents":[{"IMAuditContentType":"Text","IMAuditContent":"aaaa"},{"IMAuditContentType":"Image","IMAuditContent":"https://example.qq.com/1.jpg"}]}

方式二:按固定字段送审

每种自定义消息 json 结构体按照(单)多阶 key 值使用 . 拼接(string.string)的格式填写(最多两阶),支持多种 json 结构体按 | 拼(string|string.string)填写(最多三种)。其中 string 字符串不超过 60 个字符。

填写固定字段 data.content|content,其中 data.content 配置针对以下两种自定义消息 json 结构体过滤:
{"data":{"content": "123"},"avatar":"http://xxxxx"}
{"data":"{\\"content\\":\\"123\\"}","avatar":"http://xxxxx"}

配置通用场景策略

每个审核场景及内容类型均已配置默认审核策略,默认识别并拦截包含高风险敏感事件/人物、高风险色情/辱骂/暴恐/违禁等内容,如果您需要更严格/更宽松的审核策略,或者您需要增加中、低风险内容审核策略,请按照下方指引操作。
如果需要编辑审核策略,请单击对应场景及内容类型右侧的编辑策略



文本/图片策略配置:可以修改通用识别策略配置与自定义库信息。
通用识别策略配置:勾选需要识别的风险类型。
自定义库信息:勾选需要关联的自定义词库(最多可支持设置5个自定义词库)。



音频策略配置:可以修改通用识别策略配置、截帧策略配置与自定义库信息。
通用识别策略配置:勾选需要识别的风险类型。
截帧策略配置:音频切片时长配置,支持滑动设定或填写整数,范围[1,60]。
自定义库信息:勾选需要关联的自定义词库(最多可支持设置5个自定义词库)。



视频策略配置:可以修改通用识别策略配置、截帧策略配置与自定义库信息。
通用识别策略配置:勾选需要识别的风险类型,包括对图片和音频的识别。
截帧策略配置:审核内容配置,支持仅审核视频画面、仅审核音频和全部审核;图片截帧间隔,支持滑动设定或填写整数,范围[1,60];音频切片时长配置,支持滑动设定或填写整数,范围[1,60]。
自定义库信息:勾选需要关联的自定义词库(最多可支持设置5个自定义词库)。



复制策略:图文音视的编辑策略时,单击复制策略,可以将本策略复制到下拉选择的其他场景。




自定义审核场景及配置

自定义审核配置,可用于主动审核终端消息自定义送审。该配置在 IM 云端审核控制台,自定义审核配置模块中操作:



单击添加,输入审核名称,勾选启用策略,单击确定,即可完成一个自定义配置的创建操作。



创建完成后,可在列表中,看到新创建的配置信息。单击复制图标,获取配置 ID:



当终端发送的消息需要指定自定义审核策略时,请通过创建自定义审核配置来获取配置 ID,在终端发消息接口中赋值;当针对不属于单聊、群聊、资料的场景(例如评论、动态、资讯等)进行音视图文内容审核时,可调用 主动审核 REST API 接口,接口使用的审核策略,请通过创建自定义审核配置来获取配置 ID 给 AuditName 赋值。