有奖捉虫:云通信与企业服务文档专题,速来> HOT

简介

本文介绍如何通过控制台使用图片审核功能。开启图片审核服务后,每当您的 COS 存储桶中新产生图片时,将自动进行检测,并支持自动冻结(禁止公有读访问)已检测的违规内容。
图片增量审核功能可对图片内容进行安全审核,检测场景包括色情违法违规广告检测
添加图片审核配置后,该存储桶中新增的图片将在上传时自动进行检测,并支持自动冻结(禁止公有读访问)已检测的违规内容。
您也可以对 COS 中的历史图片文件进行扫描,审核涉黄、违法违规及广告传播的文件,详情请参见 设置历史数据审核任务图片审核 API 文档。
注意
当前图片审核的图片限制为:图片格式支持 png、jpeg、jpg、bmp、webp、gif、heif 格式。
支持审核32MB以下的图片,对于大小超过5MB的图片,需要开启大图审核功能。
图片宽高不低于20 x 20像素。

操作流程



操作步骤

1. 登录 对象存储控制台,在存储桶列表页面选择需操作的存储桶,进入存储桶管理页面。
2. 在左侧导航栏中,选择内容审核 > 自动审核配置,单击图片审核
3. 单击添加图片自动审核配置,进入图片审核配置页面,并按照如下配置项说明进行配置:
审核范围:可选择审核的范围为整个存储桶或指定范围。
整个存储桶:当上传视频到存储桶中任意位置时,将自动进行审核
前缀匹配:您可以指定某个视频上传至存储桶中某个前缀下时进行审核或者对某个前缀指定不审核。
示例1:如您需要审核指定目录 test 内的文件,则需要填写指定前缀为 test/。
示例2:如您需要审核指定前缀为123的文件,则需要填写指定前缀为123。
通配符匹配:您可以通过通配符自定义匹配需要审核的文件,当前支持的通配符"*"、"?",如果您的路径中包含这些通配符,需要进行转译,否则我们将按通配符进行匹配。
注意
您可以添加多条审核配置,但审核路径不能重复或存在包含关系。例如您已经配置了审核整个存储桶,则不能再添加针对存储桶内某个路径的审核。
审核后缀:图片格式支持 jpg\\jpeg、png、bmp、webp、gif 、heif\\heic格式,支持智能判断后缀和空后缀图片。
说明
智能判断后缀:选中后会根据文件的后缀和内容,智能判断是否为图片。
大图审核:图片审核仅支持审核5MB以下的图片,对于大小超限的图片,您可以开启大图审核功能,后台会先压缩图片后再进行审核,最大支持压缩32MB的图片。
注意
大图审核功能会产生基础图片处理费用,费用详情请参见 基础图片处理费用
选择审核策略:请选择您配置的审核策略,不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。您可以前往 公共策略 查看如何配置审核策略。
已关联风险库:审核策略中关联的风险库。
审核场景:审核场景展示的是默认场景或者您在审核策略中配置的场景,您可以勾选希望审核的场景分类。
每日审核上限:设置上限后,当日将审核固定数量图片,超出部分不再审核,次日将审核新增图片。
冻结及人审设置:您可以选择开启文件冻结服务,开启后将授权数据万象对相应类型文件进行机审直接冻结或人工复审,从而禁止公有读访问已检测的违规内容。开启服务后,您需要选择冻结的文档类型和冻结文档分值区间。
冻结方式:当前支持以下两种冻结方式。
将文件变为私有读:通过将文件的访问权限修改为私有读(private),达到文件冻结的效果。使用这种方式,再次访问文件将会返回“403”状态码,表示无权访问文件。有关文件权限的信息,可参见 文件 ACL 概述
将文件转移到备份目录:通过将文件移动到备份文件目录,达到文件冻结的效果。使用这种方式,再次访问文件将会返回“404”状态码,表示文件不存在。备份目录由后台自动生成,位于当前存储桶下的路径为:audit_freeze_backup/increment_audit。
冻结类型: 您可指定冻结类型和冻结机制。默认选择机审自动冻结,若您选择人工审核冻结,则天御专业团队将会对机审结果为敏感的文档进行二次复检,您可指定冻结文档分值区间(即60-100的整数,分值越大则说明文档越敏感)。
冻结后刷新 CDN:开启后,将在冻结 COS 源站文件的同时,刷新对应的 CDN 缓存数据。数据万象的角色将调用 CDN 的 URL 刷新接口进行刷新,每日 URL 刷新有额度上限,具体限制可查看 CDN刷新URL接口
注意
人工审核冻结价格为70元/千次,详情请查看 内容审核费用
回调设置:开启回调后将把相应图片的审核结果反馈给您。您需选择回调的审核类型、回调内容、回调 URL、回调图片域名。若您选择自定义回调阈值,则需设定回调图片分值区间。设置回调地址后,数据万象会发送一份默认回调信息至您设置的回调地址,以检测回调地址是否能够正常接收回调信息。回调详情请查看 图片审核回调内容
4. 配置完成后,单击保存即可启用该功能,后续将对您新上传的图片进行审核。

相关说明

1. 图片审核为打分制,对于每一张图片均有一个0 - 100的分值。
2. 确定部分指确定是敏感图片和确定正常的图片,分值在[0,60]和(90,100]区间,我们认为图片置信度比较明确,无需进行人工干预。
3. 不确定部分指疑似敏感图片,机审无法区分是否为敏感内容,分值在(60,90]区间,建议用户通过人工审核的方式确定。