控制台指南

最佳实践

开发者指南

API 文档

SDK 文档

设置历史数据审核任务

最近更新时间:2022-05-10 10:50:46

简介

本文介绍如何通过控制台使用对象存储(Cloud Object Storage,COS)内容审核的历史数据审核功能。您可以通过创建历史数据审核任务,对您的图片、视频、音频、文本、文档进行一次性的批量审核。

操作步骤

创建审核任务

  1. 登录 对象存储控制台
  2. 在左侧导航栏中,选择存储桶列表,进入存储桶管理页面。
  3. 找到需要操作的存储桶,单击该存储桶名称,进入存储桶配置页面。
  4. 在左侧导航栏中,选择内容审核 > 历史数据审核,进入历史数据审核页面。
  5. 单击创建审核任务
  6. 在“扫描范围”界面,您可以通过不同的扫描方式,按需审核您的文件:

    扫描方式:包含手动选择、COS 清单报告、URL 列表文件三种:
    • 手动选择:您可以选择当前存储桶内的文件进行审核,扫描范围支持按文件上传时间扫描或按前缀扫描。
    • COS 清单报告:您可以选择扫描由 COS 清单功能 生成的清单列表,并将清单列表文件存放到当前存储桶内。
    • URL 列表文件:您可以选择扫描指定的 URL 列表文件,目前支持 txt 格式,每行一条 url。使用该方式暂不支持进行视频审核和文本审核。
  7. 单击下一步
  8. 在“审核策略”界面,按需开启审核策略,并配置相应的审核文件类型、审核场景类型,单击下一步
    • 审核图片:
      • 审核后缀:支持审核 jpg、jpeg、png、bmp、webp、gif 后缀的图片。
        注意:

        智能判断后缀可以识别包含上述6种常见的图片后缀及一些特殊的后缀。

      • 大图审核:图片审核仅支持审核5MB以下的图片,对于大小超限的图片,您可以开启大图审核功能,后台会先压缩图片后再进行审核,最大支持压缩32MB的图片。
        注意:

        大图审核功能会产生基础图片处理费用,费用详情请参见 基础图片处理费用

      • 选择审核策略:请选择您配置的审核策略(如您未配置过,可选择系统默认策略),不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。关于如何配置审核策略,请参见 设置审核策略
      • 每日审核上限:可设置每日最多可审核的图片数量,默认无上限。
      • 审核场景:审核场景展示的是默认场景或者您在审核策略中配置的场景,您可以勾选希望审核的场景分类。
    • 审核视频:
      • 审核后缀:支持审核 mp4、avi、mkv、wmv、rmvb、flv、m3u8 等后缀的视频。
      • 选择审核策略:请选择您配置的审核策略,不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。您可以前往 设置审核策略 查看如何配置审核策略。
      • 每日审核上限:可设置每日最多可审核的视频文件数量,默认无上限。
      • 审核内容:支持审核视频画面和视频声音。
      • 审核场景:支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。
      • 审核截帧规则:视频审核基于视频截帧,通过对所截图片进行审核的方式实现此功能。支持固定时间、固定帧率和固定数量的审核截帧。
        • 固定时间:以固定时间间隔截取图片进行审核。您可设定时间间隔和单视频最大截帧数。
        • 固定帧率:每秒截取固定帧数图片进行审核。您可设定每秒截帧数和单视频最大截帧数。
        • 固定数量:按照平均百分比对全视频截取固定数量图片进行审核。您可设定单视频最大截帧数。
          注意:

          截帧规则的设定会影响审核的结果。

    • 审核音频
      • 审核后缀:支持 mp3、wav、aac、flac、amr、3gp、m4a、wma、ogg、ape 后缀的音频。
      • 选择审核策略:请选择您配置的审核策略(如您未配置过,可选择系统默认策略),不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。关于如何配置审核策略,请参见 设置审核策略
      • 每日审核上限:可设置每日最多可审核的音频文件数量,默认无上限。
      • 审核场景:审核分类展示的是您在审核策略中配置的场景,您可以勾选希望审核的场景分类。
    • 审核文本:
      • 审核后缀:支持审核 txt 或空后缀的文本。
      • 选择审核策略:请选择您配置的审核策略(如您未配置过,可选择系统默认策略),不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。关于如何配置审核策略,请参见 设置审核策略
      • 每日审核上限:可设置每日最多可审核的文本数量,默认无上限。
      • 审核场景:审核分类展示的是您在审核策略中配置的场景,您可以勾选希望审核的场景分类。
    • 审核文档:
      • 审核后缀:文档格式支持 演示类文件、文字文件、表格文件、PDF 等,支持多选。
      • 选择审核策略:请选择您配置的审核策略(如您未配置过,可选择系统默认策略),不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。关于如何配置审核策略,请参见 设置审核策略
      • 每日审核上限:可设置每日最多可审核的文档数量,默认无上限。
      • 审核场景:此处展示您所选择审核策略中配置的场景,您可以自定义勾选希望审核的场景。
  9. 在“冻结策略”界面,设置冻结策略,单击下一步
    开启冻结策略后,将授权数据万象云产品对相应类型文件进行自动机审冻结或人工审核冻结,从而禁止公有读访问已检测的违规内容。
    • 敏感图片冻结:您可根据不同审核类型设置分值(即60 - 100的整数),当达到设置的分值范围将对图片进行冻结操作。默认选择机审自动冻结,若您选择人工审核冻结,将由专业的安全团队对机审结果为敏感的图片进行二次复检。
    • 敏感视频冻结:您可指定冻结类型,同时选择冻结机制。默认选择机审自动冻结,若您选择人工审核冻结,将由专业的安全团队对机审结果为敏感的视频进行二次复检。
    • 敏感音频冻结:您可指定冻结类型及冻结机制。默认选择机审自动冻结,若您选择人工审核冻结,将由专业的安全团队对机审结果为敏感的音频进行二次复检,您可指定冻结音频分数区间(60 - 100的整数,分值越大则说明音频越敏感)。
    • 敏感文本冻结:您可指定冻结类型,同时选择冻结机制。默认选择机审自动冻结,若您选择人工审核冻结,将由专业的安全团队对机审结果为敏感的文本进行二次复检。
    • 敏感文档冻结:您可指定冻结类型,同时选择冻结机制。默认选择机审自动冻结,若您选择人工审核冻结,将由专业的安全团队对机审结果为敏感的文本进行二次复检。
      说明:

      • 通过审核分值,我们将审核结果分为确认敏感、疑似敏感和正常。
      • 确认敏感图片的分值范围为91分及以上。
      • 疑似敏感图片的分值范围为61分到90分,这类图片系统无法精确地判定为敏感,建议用户再进行人工复审,确保图片的内容安全性。
      • 正常图片的分值范围为60分及以下,这类图片系统认为是正常的。
    • 冻结方式:当前支持以下两种冻结方式。
      • 将文件变为私有读:通过将文件的访问权限修改为私有读(private),达到文件冻结的效果。使用这种方式,再次访问文件将会返回“403”状态码,表示无权访问文件。有关文件权限的信息,可参见 文件 ACL 概述
      • 将文件转移到备份目录:通过将文件移动到备份文件目录,达到文件冻结的效果。使用这种方式,再次访问文件将会返回“404”状态码,表示文件不存在。备份目录由后台自动生成,位于当前存储桶下的路径为:audit_freeze_backup/increment_audit。
  10. 在“审核结果”界面,设置审核结果回调,单击下一步
    开启回调设置后,我们会将审核结果发送至您指定的回调地址中,您需选择回调类型、回调内容,同时设置回调 URL。
    • 回调类型:根据您设置的审核策略,可选涉黄、违法违规、广告审核、违法、谩骂。
    • 回调内容模式:可选精简或详细模式。
    • 回调内容:可选仅回调违规文件、仅回调冻结文件、回调全部文件,支持对审核失败的文件再次审核。
    • 回调 URL:回调 URL 地址须默认返回200正确码方可使用。
    • 回调 URL 协议:可选择强制 HTTP 或 HTTPS。
  11. 确认任务整体配置无误,单击创建即可完成任务创建。

查看任务结果

在历史数据审核页面,您可以根据任务状态进行不同的操作。

  • 当任务状态为执行中,您可以查看任务配置终止任务
  • 当任务状态为执行成功,您可以查看审核详情或查看结果统计
    • 查看审核详情:仅支持查看近1个月的审核详情,单击后会跳转到审核页面,您可以进行审核结果导出、手动审核等操作,具体操作指引请参见 审核详情
    • 查看结果统计:该页面展示了该审核任务的统计结果,如对审核结果有疑问,可前往控制台审核详情页面查看具体的审核内容。
目录