文档中心>即时通信 IM>云端审核>审核用户管理与纠错功能

审核用户管理与纠错功能

最近更新时间:2025-08-22 17:21:22

我的收藏

终端用户审核白名单配置

如果您不需要审核特定终端用户发送/接收的消息内容,您可以通过终端用户审核白名单模块进行配置。具体操作如下:
1. 进入 即时通信 IM 控制台,左侧导航栏选择消息服务 Chat > 云端审核, 选择审核管理 tab。

2. 单击终端用户审核白名单配置模块的添加

3. 在弹窗中选择审核方式,在用户 ID 填入终端用户 ID,单击确定

4. 支持对已添加的终端用户 ID 编辑不送审方式删除/批量删除添加白名单记录。

禁言用户管理

如果您调用 全局禁言 接口或者在云端审核控制台的违规用户列表中,对用户进行了全局禁言操作,您可以在此模块看到您最近操作的用户 ID(最多展示1万个),并支持在此模块对用户进行禁言/解封操作、查看用户禁言记录等。具体操作如下:

添加禁言用户

1. 进入 即时通信 IM 控制台,左侧导航栏选择消息服务 Chat > 云端审核, 选择审核管理 tab。下拉找到禁言用户管理模块,可直接在列表中看到最近操作禁言/解封的用户 ID 等信息。

2. 单击添加禁言用户,添加需要禁言的用户 ID、选择需要禁言的场景和时间。


编辑用户禁言状态

您可以单击操作列的编辑禁言状态直接编辑已经在禁言用户管理列表中的用户禁言状态。


查询用户禁言记录

您可以单击操作列的查询禁言记录,查询某一个用户的禁言记录。


纠错

功能概述

通过纠错功能,可动态优化内容审核策略,实现“拦截误杀快速修复”与“漏杀风险主动堵漏”的双向闭环,在保障业务安全的前提下提升审核精准度与响应效率。​​对比通过模型或者算法的后期优化,纠错规则增删无需重新部署,策略调整秒级生效,应对突发舆情更敏捷。

具体应对的场景

正常内容被误拦截(如营销文案触发敏感词、UGC 内容因方言/新表达被误杀),导致业务损失或用户投诉。
违规内容因规则缺失被放过(如新型诈骗话术、变体敏感词),造成合规风险或品牌声誉受损。

限制情况

纠错功能适用于突发情况或者个别情况,例如用户群发的正常公告被误拦截等,如包含语义理解或者需要规则拦截的情况,建议通过自定义词库拦截,或者工单反馈后续进行模型优化处理。
纠错规则预计生效5分钟左右,最多同时支持500条策略。
纠错只对完全相同的内容建立规则,如果内容发生变化,则无法适用纠错规则。

具体操作方式

以下介绍纠错的操作方式,分别应对正常内容被误拦截、违规内容因规则缺失被放过的场景。并且提供纠错规则的管理操作方式。

纠错操作

1. 单击进入 即时通信 IM 控制台,左侧导航栏选择消息服务 Chat > 云端审核,在审核明细中,可以看到具体的识别内容以及识别结果,对识别结果可以进行纠错操作,在需要操作的内容一行,单击纠错,选择需要执行的操作。

2. 在弹框中,单击拦截或者放行

3. 单击拦截或者放行后,可以在纠错管理中查看纠错记录。
效果示例如下:
某条文本内容被模型识别后拦截,由于业务侧需要放过,通过纠错操作对内容建立纠错放行规则,后续相同的文本内容,已放行处理。


纠错管理

1. 单击进入 即时通信 IM 控制台,左侧导航栏选择消息服务 Chat > 云端审核,单击审核管理 tab后,在纠错管理模块,可以查看纠错的记录。

2. 纠错记录中,可以将某条纠错策略状态调整为失效。已经生效的策略,在操作列单击失效后,在弹框中单击,则策略会生效。

3. 失效后如下图所示: