控制台指南

最佳实践

开发者指南

API 文档

SDK 文档

填写文档满意度调查问卷,赢取缤纷好礼> HOT

设置自定义风险库

最近更新时间:2022-07-04 11:11:06

简介

自定义风险库用于帮助您有针对性的管理需要审核的图片或关键词。通过自定义风险库,您可以提前设置好图片或关键词,有针对性的进行拦截或放行,适用于所有审核场景。

自定义风险库分为预设库和自定义库:

  • 预设库:指系统自带的风险库,包含预设图库和预设文本库。
    说明:

    • 预设库中包含正常图库1个,正常文本库1个,敏感图库5个,敏感文本库6个。
    • 单个预设图库中可添加的图片样本为10000张,单个预设文本库中可添加的关键词为10000个。
    • 部分特定图片可能无法添加到图库,如遇到添加失败的情况,请 联系我们
  • 自定义库:指您自己创建的风险库,可以在库中添加多种违规类型的样本,目前仅支持自定义文本库。当自定义风险库处于开启状态时,被审核的数据若命中库中的样本,则会依照设定好的库策略,被打上对应的标签,敏感库对应的策略标签是违规(拦截),正常库对应的策略标签是正常(放行)。
    说明:

    单个自定义文本库中可添加的关键词上限为2000个。

操作步骤

  1. 登录 对象存储控制台,在存储桶列表页面选择需操作的存储桶,进入存储桶管理页面。
  2. 在左侧导航栏中,选择内容审核 > 自定义风险库
  3. 自定义图库页面中,可以看到预设图库、预设文本库、自定义文本库三个选项卡。

    预设图库:共包含6个预设图库,单击图库右侧的管理,进入图库管理页面。
    在图库管理界面,您可以执行以下操作:
    img

    • 查看图库策略:查看预设图库是放行策略还是拦截策略。
    • 查看样本数:查看预设图库中已添加了多少样本。
    • 添加样本:您可以往预设图库中添加指定的图片作为样本。
    • 删除样本:您可以从预设图库中删除样本图片。
  4. 完成风险库的配置后,在您使用 COS 内容审核功能时,如果遇到了风险库内的文件,会按风险策略自动进行放行或拦截。
目录