简介
自定义风险库用于帮助您有针对性的管理需要审核的图片或关键词。通过自定义风险库,您可以提前设置好图片或关键词,有针对性的进行拦截或放行,适用于所有审核场景。
自定义风险库分为预设库和自定义库:
- 预设库:指系统自带的风险库,包含预设图库和预设文本库。
说明:
- 预设库中包含正常图库1个,正常文本库1个,敏感图库5个,敏感文本库6个。
- 单个预设图库中可添加的图片样本为10000张,单个预设文本库中可添加的关键词为10000个。
- 部分特定图片可能无法添加到图库,如遇到添加失败的情况,请 联系我们。
- 自定义库:指您自己创建的风险库,可以在库中添加多种违规类型的样本,目前仅支持自定义文本库。当自定义风险库处于开启状态时,被审核的数据若命中库中的样本,则会依照设定好的库策略,被打上对应的标签,敏感库对应的策略标签是违规(拦截),正常库对应的策略标签是正常(放行)。
说明:
单个自定义文本库中可添加的关键词上限为2000个。
操作步骤
- 登录 对象存储控制台,在存储桶列表页面选择需操作的存储桶,进入存储桶管理页面。
- 在左侧导航栏中,选择内容审核 > 自定义风险库。
- 在自定义图库页面中,可以看到预设图库、预设文本库、自定义文本库三个选项卡。
- 完成风险库的配置后,在您使用 COS 内容审核功能时,如果遇到了风险库内的文件,会按风险策略自动进行放行或拦截。