控制台指南

最佳实践

开发者指南

API 文档

SDK 文档

审核详情

最近更新时间:2022-03-11 11:39:48

简介

对象存储内容审核服务提供了图片、视频、语音、文档、文本等多媒体的内容安全智能审核服务,可帮助用户有效识别色情低俗、违法违规、恶心反感等违禁内容,规避运营风险。

文件审核成功后,您可在审核详情界面根据条件查看审核结果,并对审核结果进行手动处理。

操作步骤

结果筛选

  1. 登录 对象存储控制台
  2. 在左侧导航栏中,选择存储桶列表,进入存储桶管理页面。
  3. 找到需要操作的存储桶,单击该存储桶名称,进入存储桶配置页面。
  4. 在左侧导航栏中,选择内容审核 > 审核详情,进入审核详情页面。
  5. 根据实际需求,选择相应的条件。
    • 审核方式:您可指定查看通过 API 调用、自动审核、历史数据审核的审核结果。
    • 文件类型:您可指定查看图片、视频、音频和文本的审核结果。
    • 检测场景:您可选择查看对应文件类型的鉴黄、违法违规检测、广告审核或全部场景。
    • 审核结果:系统将审核完成的文件划分为三类:敏感、疑似和正常。您可选择查看敏感、疑似、正常或全部文件。
      • 敏感:指图片分值范围为[91,100],系统判定为敏感文件。
      • 疑似:指图片分值范围为[61,90],疑似敏感文件,系统无法区分是否涉敏感,建议用户通过人工审核的方式确定。
      • 正常:指图片分值范围为[0,60],系统判定为正常文件。
    • 冻结状态:您可选择查看冻结、正常或全部状态下的文件。
    • 审核状态:您可以筛选审核的状态,包含审核中、审核成功、审核失败。
    • 审核策略:您可以根据审核策略(BizType)筛选审核结果。
    • 审核时间:您可以选择查看指定审核时间段内的审核结果。
      注意:

      若您对文件进行了重命名或元数据修改,将被认为是新上传的文件,会产生新的审核结果。

    • 图片分值:若您选择的审核结果一栏为全部,则可通过自定义文件审核分值区间筛选文件。
    • 文件名称:支持输入文件名称查看指定文件的审核结果。
  6. 单击查询,查看审核结果。
    说明:

    详情页只展示通过控制台调用的审核详情,不会展示调用 API 和 SDK 内容审核的结果。

结果导出

完成 结果筛选 操作后,单击导出,审核结果将以 CSV 文件形式导出。

审核结果文件说明:

参数字段 说明
审核记录 ID 审核的唯一记录 ID(也叫任务 ID),您可以通过此 ID 查询审核结果。
文件名称 被审核的文件名称。
注意:文本审核中,通过 API 接口直接审核文本内容的情况,没有文件名称。
审核结果类型 被审核文件的审核结果(如色情、广告)。如果审核结果为正常,此字段为空。
审核分值 该字段表示审核结果命中审核信息的置信度,取值范围:0(置信度最低)-100(置信度最高 ),越高代表该内容越有可能属于当前返回审核信息。
例如:99,则表明该内容非常有可能属于色情内容。
审核结果类型-子类型 被审核文件的子审核类型,如色情(Sexy),表示该文件审核结果为色情,细分的子类型为性感。如果审核结果为正常,此字段为空。
审核结果 分为:正常、敏感、 疑似三种。审核结果是通过审核分值进行判断的。
  • 正常:审核分值为0-60分;
  • 敏感:审核分值为91-100分;
  • 疑似:审核分值为61-90分。
  • 是否冻结 自动审核历史数据审核的配置中,可以配置审核后自动冻结,该字段表示被审核文件的冻结处理结果。
    文件大小 单位为 B。
    审核时间 文件被审核的时间。
    文件路径 文件在存储桶中的位置。
    注意:通过 API 接口直接审核文件内容或非 COS 上文件时,该字段为空。
    原始文件链接 文件的 URL 链接。
    注意:通过 API 接口直接审核文件内容,该字段为空。
    审核方式 表示文件审核的方式,分为以下三种:
  • Notify:自动审核;
  • Task:历史数据审核;
  • API:通过 API 调用的审核。
  • 文件类型 被审核文件的数据来源,分为以下三种:
  • object:COS 上的文件;
  • objecturl:待审核的文件链接,支持外部链接;
  • API:通过 API 调用的审核。
  • 审核状态
  • Success:审核成功;
  • Failed:审核失败。
  • 错误码 当审核状态为 Failed 时,会通过错误码反应错误原因。错误码相关介绍请参见 错误码 文档。
    错误信息 审核失败的错误信息。
    bizType 审核策略的唯一 ID,可通过 bizType 找到当前配置的审核策略。

    手动审核

    完成 结果筛选 操作后,审核详情页面将会展示筛选后的结果。您可对筛选的结果进行如下操作:

    • 对指定图片进行冻结或归为正常操作。
    • 单击审核后的图片,查看图片详情。
    目录