即时通信 IM
有奖捉虫：办公协同&微信生态&物联网文档专题 HOT
文档中心 > 即时通信 IM > 云端审核 > 配置审核场景和策略

配置审核场景和策略

最近更新时间：2024-02-02 11:05:21

我的收藏

本页目录：

通用场景及策略配置

开通云端审核服务后，默认为您开启了六大通用场景的音视图文审核。
如果需要调整关闭某一场景的某一消息类型的开关，请单击修改场景配置。


在弹窗中勾选/取消勾选对应项目，单击确定即可。




音视图文消息检测

按照业务所需，勾选/取消勾选 对应场景下的文本、图片、音频、视频类型内容即可。
注意
单聊、群聊场景下，将音视/视频异步审核开启后，所有音频/视频都将正常送审并计费，对存储在腾讯云即时通信 IM 的文件会拦截。如有自定义存储的音频/视频内容，请谨慎开启！如需审核自定义存储的音频/视频内容，请通过监听音频/视频消息审核终端违规回调的方式，进行 UI 处理。

自定义消息检测

开启云端审核后，单聊、群聊的自定义消息默认当作文本送审。如果自定义消息结构为 json，只希望送审自定义消息的部分内容，可以参见如下方式：

方式一：按预设字段过滤送审

{
    "To_Account":"lumotuwe5",
    "MsgRandom":121212,
    "MsgBody":[
        {
            "MsgType":"TIMCustomElem",
            "MsgContent":{
                "Data":"{\\"key1\\":\\"value1\\",\\"message\\":\\"hello\\",\\"IMAuditContentType\\":\\"Text\\",\\"IMAuditContent\\":\\"hello\\"}",
                "Desc":"hello",
                "Ext":"www.qq.com",
                "Sound":"dingdong.aiff"
            }
        }
    ]
}
参数说明：
字段
类型
说明
IMAuditContentType
String
指定送审的内容类型：Text/Image/Audio/Video。
IMAuditContent
String
指定送审的内容，如果类型为：Image/Audio/Video，该字段填文件 URL。
说明
指定的字段，需要放置在自定义消息 json 结构体的第一层 kv 元素里面。该方式支持音视图文等消息的审核，当送审的内容为音视频的文件，违规的消息处置参见 终端违规回调。如果一条自定义消息，有多个元素需要同时送审，支持按如下配置提取相应内容送审，最多支持10个元素审核：
{"IMAuditContents":[{"IMAuditContentType":"Text","IMAuditContent":"aaaa"},{"IMAuditContentType":"Image","IMAuditContent":"https://example.qq.com/1.jpg"}]}

方式二：按固定字段送审

每种自定义消息 json 结构体按照（单）多阶 key 值使用'.'拼接（string.string）的格式填写（最多两阶），支持多种 json 结构体按'|'拼（string|string.string）填写（最多三种）。其中 string 字符串不超过 60 个字符。

填写固定字段 data.content|content，其中 data.content 配置针对以下两种自定义消息json 结构体过滤:
{"data":{"content": "123"},"avatar":"http://xxxxx"}
{"data":"{\\"content\\":\\"123\\"}","avatar":"http://xxxxx"}

配置通用场景策略

每个审核场景及内容类型均已配置默认审核策略，默认识别并拦截包含高风险敏感事件/人物、高风险色情/辱骂/暴恐/违禁等内容，如果您需要更严格/更宽松的审核策略，或者您需要增加中、低风险内容审核策略，请按照下方指引操作。 如果需要编辑审核策略，请单击对应场景及内容类型右侧的编辑策略。



文本/图片策略配置：可以修改通用识别策略配置与自定义库信息。
通用识别策略配置：勾选需要识别的风险类型。
自定义库信息：勾选需要关联的自定义词库（最多可支持设置5个自定义词库）。


音频策略配置：可以修改通用识别策略配置、截帧策略配置与自定义库信息。
通用识别策略配置：勾选需要识别的风险类型。
截帧策略配置：音频切片时长配置，支持滑动设定或填写整数，范围[1,60]。
自定义库信息：勾选需要关联的自定义词库（最多可支持设置5个自定义词库）。


视频策略配置：可以修改通用识别策略配置、截帧策略配置与自定义库信息。
通用识别策略配置：勾选需要识别的风险类型，包括对图片和音频的识别。
截帧策略配置：审核内容配置，支持仅审核视频画面、仅审核音频和全部审核；图片截帧间隔，支持滑动设定或填写整数，范围[1,60]；音频切片时长配置，支持滑动设定或填写整数，范围[1,60]。
自定义库信息：勾选需要关联的自定义词库（最多可支持设置5个自定义词库）。


复制策略：图文音视的编辑策略时，单击复制策略，可以将本策略复制到下拉选择的其他场景。



自定义审核场景及配置

自定义审核配置，可用于主动审核 和终端消息自定义送审 。该配置在 IM 云端审核控制台，自定义审核配置模块中操作：



单击 添加，输入审核名称，勾选启用策略，单击确定，即可完成一个自定义配置的创建操作。



创建完成后，可在列表中，看到新创建的配置信息。单击复制 按钮，获取配置 ID：



当终端发送的消息需要指定自定义审核策略时，请通过创建自定义审核配置来获取配置 ID，在终端发消息接口中赋值；当针对不属于单聊、群聊、资料的场景（例如评论、动态、资讯等）进行音视图文内容审核时，可调用主动审核 REST API 接口，接口使用的审核策略，请通过创建自定义审核配置来获取配置 ID 给 AuditName 赋值。

终端用户审核白名单配置

如果您不需要审核特定终端用户发送/接收的消息内容，您可以通过终端用户审核白名单模块进行配置。具体操作如下： 单击终端用户审核白名单配置模块的添加。



在弹窗中选择审核方式，并填入终端用户 ID，单击确定。



支持对已添加的终端用户 ID 编辑不送审方式、删除/批量删除添加白名单记录。





中国站