内容违规(合规)场景

最近更新时间:2025-08-06 14:46:22

我的收藏

概述

如果您存储在对象存储 COS 中的数据为公有读权限,那么当您在公网中访问、传播这些数据时,需要符合相关法律法规要求,若传播的内容存在违规,腾讯云会依法进行处置,严重者可能会被永久封禁账号!
本篇实践将为您介绍几种数据管理的方法,希望能帮助您解决数据合规性问题,提前处理违规数据。

安全管理实践一:使用私有读方式访问(推荐)

通常情况下,存储桶和对象的访问权限都为私有读,但有部分用户为了方便使用,会将存储桶改为公有读权限。在公有读权限下,虽然使用方便,例如可通过对象链接直接访问对象,但这种行为存在很大风险:
对象可以被任何人访问,数据被肆意传播的风险大大增加。
可能会被一些黑产盗刷流量。
因此我们建议用户将存储桶和对象改为私有读权限,然后通过预授签名的方式,供第三方在有效期内进行下载访问。相关文档请参见 预签名授权下载

安全管理实践二:使用自动化的内容审核服务

如果您的业务模式必须采用公有读的使用方式,那么建议您开启 数据万象内容审核服务
您可以通过配置数据增量审核,对上传至 COS 的数据进行自动审核,并设置自动冻结,对审核结果为敏感的数据进行冻结处理,避免违规数据肆意传播。您可以参考以下步骤进行配置(以图片审核为例):
1. 登录 数据万象控制台,单击存储桶管理,单击需操作的存储桶名称,进入存储桶管理页面。
2. 在左侧导航栏中,选择内容审核 > 自动审核配置,单击图片审核
3. 单击添加图片审核配置,进入图片审核配置页面,并按照如下配置项说明进行配置:
审核范围:可选择审核的范围为整个存储桶、前缀匹配或通配符匹配。
整个存储桶:当上传视频到存储桶中任意位置时,将自动进行审核。
前缀匹配:您可以指定某个视频上传至存储桶中某个前缀下时进行审核或者对某个前缀指定不审核。
示例1:如您需要审核指定目录 test 内的文件,则需要填写指定前缀为 test/。
示例2:如您需要审核指定前缀为123的文件,则需要填写指定前缀为123。
通配符匹配:您可以通过通配符自定义匹配需要审核的文件,当前支持的通配符"*"、"?",如果您的路径中包含这些通配符,需要进行转译,否则我们将按通配符进行匹配。
注意:
您可以添加多条审核配置,但审核路径不能重复或存在包含关系。例如您已经配置了审核整个存储桶,则不能再添加针对存储桶内某个路径的审核。
审核后缀:图片格式支持 jpg\\jpeg、png、bmp、webp、gif、heif\\heic 格式,支持智能判断后缀和空后缀图片。
说明:
智能判断后缀:选中后会根据文件的后缀和内容,智能判断是否为图片。
大图审核:图片审核仅支持审核5MB以下的图片,对于大小超限的图片,您可以开启大图审核功能,后台会先压缩图片后再进行审核,最大支持压缩32MB的图片。大图审核功能会产生基础图片处理费用,费用详情参见: 基础图片处理费用
选择审核策略:请选择您配置的审核策略,不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。您可以前往 审核策略 查看如何配置审核策略。
已关联风险库:审核策略中关联的风险库。
审核场景:审核场景展示的是默认场景或者您在审核策略中配置的场景,您可以勾选希望审核的场景分类。
每日审核上限:设置上限后,当日将审核固定数量图片,超出部分不再审核,次日将审核新增图片。
冻结设置:您可以选择开启该服务,开启后将授权数据万象对相应类型文件进行自动机审冻结,从而禁止公有读访问已检测的违规内容。开启服务后,您需要选择冻结的文档类型和冻结文档分值区间。
冻结方式:当前支持以下两种冻结方式。
将文件变为私有读:通过将文件的访问权限修改为私有读(private),达到文件冻结的效果。使用这种方式,再次访问文件将会返回“403”状态码,表示无权访问文件。有关文件权限的信息,可参见 文件 ACL 概述
将文件转移到备份目录:通过将文件移动到备份文件目录,达到文件冻结的效果。使用这种方式,再次访问文件将会返回“404”状态码,表示文件不存在。备份目录由后台自动生成,位于当前存储桶下的路径为:audit_freeze_backup/increment_audit。
冻结类型: 您可指定针对不同业务场景,选择冻结的文档类型和冻结文档分值区间(即60-100的整数,分值越大则说明文档越敏感)。
冻结后刷新 CDN:开启后,将在冻结 COS 源站文件的同时,刷新对应的 CDN 缓存数据。数据万象的角色将调用 CDN 的 URL 刷新接口进行刷新,每日 URL 刷新有额度上限,具体限制可查看 CDN 刷新 URL 接口
回调设置:开启回调后将把相应图片的审核结果反馈给您。您需选择回调的审核类型、回调内容、回调 URL、回调图片域名。若您选择自定义回调阈值,则需设定回调图片分值区间。设置回调地址后,数据万象会发送一份默认回调信息至您设置的回调地址,以检测回调地址是否能够正常接收回调信息。回调详情请查看 图片审核回调内容
4. 配置完成后,单击保存即可启用该功能,后续将对您新上传的图片进行审核。
5. 您可以在内容审核 > 审核详情中查看审核结果,进入审核详情页面。根据您的实际需求,选择相应的查看条件:
审核方式:您可指定查看通过 API 调用、自动审核、历史数据审核的审核结果。
文件类型:您可指定查看图片、文本、视频、音频、直播、文档和网页的审核结果。
一级标签:指审核结果的一级标签,您可以指定某一分类进行筛选查看。
二级标签:指审核结果的二级标签,相比于审核一级分类更加详细,您可以指定某一分类进行筛选查看。
审核结果:系统将审核完成的文件划分为三类:敏感、疑似和正常。您可选择查看敏感、疑似、正常或全部文件。
敏感:指图片分值范围为[91,100],系统判定为敏感文件。
疑似:指图片分值范围为[61,90],疑似敏感文件,系统无法区分是否涉敏感,建议用户通过人工审核的方式确定。
正常:指图片分值范围为[0,60],系统判定为正常文件。
冻结状态:您可选择查看冻结、正常或全部状态下的文件。
审核状态:您可以筛选审核的状态,包含审核中、审核成功、审核失败。
审核策略:您可以根据审核策略(BizType)筛选审核结果。
审核时间:您可以选择查看指定审核时间段内的审核结果,支持查询近一个月的审核结果。
注意:
若您对文件进行了重命名或元数据修改,将被认为是新上传的文件,会产生新的审核结果。
图片分值:若您选择的审核结果一栏为全部,则可通过自定义文件审核分值区间筛选文件。
内容搜索:支持输入文件名称、任务ID、UserID等内容,搜索指定文件的审核结果。
6. 单击查询,查看审核结果。

安全管理实践三:使用存量审核服务进行历史数据清洗

部分用户可能已开启自动审核服务,但历史上的旧数据仍然在外传播而导致被封禁的情况。针对这种情况我们建议您使用存量审核服务,对 COS 上的历史数据进行一次全面的清洗,将违规数据进行冻结和删除处置。
您可以按照以下步骤进行历史数据清洗:
1. 登录 对象存储控制台,单击存储桶列表进入,单击需操作的存储桶名称,进入存储桶配置页面。
2. 在左侧导航栏中,选择内容审核 > 历史数据审核,进入存量数据审核页面。
3. 单击创建审核任务
4. 扫描配置界面,您可以通过不同的扫描方式,按需审核您的文件。
扫描方式:包含存储桶文件列表、COS 清单报告、URL 列表文件三种:
存储桶文件列表:您可以选择当前存储桶内的文件进行审核,扫描范围支持按文件上传时间扫描或按前缀扫描。
COS 清单报告:您可以选择扫描由 COS 清单功能 生成的清单列表,并将清单列表文件存放到当前存储桶内。
URL 列表文件:您可以选择扫描指定的 URL 列表文件,目前支持 txt 格式,每行一条 url。
审核效率:包含正常审核和闲时审核两种:
正常审核:任务创建完成后,直接开始审核,实时性高,按正常审核价格收费。
闲时审核:利用后台机器空闲时的资源进行审核,通常会在任务创建完成后的24小时内开始审核,审核效率比正常审核慢,实时性较低,但价格更低,费用可参考 内容审核计费项
5. 单击下一步
6. 审核策略界面,设置审核策略,配置相应的审核文件类型、审核场景类型,单击下一步
审核图片
审核后缀:支持审核 jpg、jpeg、png、bmp、webp、gif、heif、heic 后缀的图片或使用智能判断后缀。
注意:
智能判断后缀可以识别包含上述8种常见的图片后缀及一些特殊的后缀。
大图审核:图片审核仅支持审核5MB以下的图片,对于大小超限的图片,您可以开启大图审核功能,后台会先压缩图片后再进行审核,最大支持压缩32MB的图片。
注意:
大图审核功能会产生基础图片处理费用,费用详情请参见 基础图片处理费用
选择审核策略:请选择您配置的审核策略(如您未配置过,可选择系统默认策略),不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。关于如何配置审核策略,请参见 设置审核策略
已关联风险库:策略场景会展示出已关联风险库中包含的样本标签,例如风险库中有色情样本,则策略场景中可勾选色情内容。
审核场景:审核场景展示的是默认场景或者您在审核策略中配置的场景,您可以勾选希望审核的场景分类。
每日审核上限:可设置每日最多可审核的图片数量,默认无上限。
审核视频
审核后缀:支持审核 mp4、wmv、rmvb、flv、avi、m3u8、mov、m4v、mkv 后缀的视频。
审核内容:支持审核视频画面和视频声音。
选择审核策略:请选择您配置的审核策略(如您未配置过,可选择系统默认策略),不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。关于如何配置审核策略,请参见 设置审核策略
已关联风险库:策略场景会展示出已关联风险库中包含的样本标签,例如风险库中有色情样本,则策略场景中可勾选色情内容。
审核场景:支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。
每日审核上限:可设置每日最多可审核的视频文件数量,默认无上限。
审核内容:支持审核视频画面和视频声音。
审核截帧规则:视频审核基于视频截帧,通过对所截图片进行审核的方式实现此功能。支持固定时间、固定帧率和固定数量的审核截帧。
固定时间:以固定时间间隔截取图片进行审核。您可设定时间间隔和单视频最大截帧数。
固定帧率:每秒截取固定帧数图片进行审核。您可设定每秒截帧数和单视频最大截帧数。
固定数量:按照平均百分比对全视频截取固定数量图片进行审核。您可设定单视频最大截帧数。
注意:
截帧规则的设定会影响审核的结果。
审核音频
审核后缀:支持 mp3、wav、aac、flac、amr、3gp、m4a、wma、ogg、ape 后缀的音频。
选择审核策略:请选择您配置的审核策略(如您未配置过,可选择系统默认策略),不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。关于如何配置审核策略,请参见 设置审核策略
已关联风险库:策略场景会展示出已关联风险库中包含的样本标签,例如风险库中有色情样本,则策略场景中可勾选色情内容。
审核场景:审核分类展示的是您在审核策略中配置的场景,您可以勾选希望审核的场景分类。
每日审核上限:可设置每日最多可审核的音频文件数量,默认无上限。
审核文本
审核后缀:支持审核 txt 、html 或空后缀的文本。
选择审核策略:请选择您配置的审核策略(如您未配置过,可选择系统默认策略),不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。关于如何配置审核策略,请参见 设置审核策略
已关联风险库:策略场景会展示出已关联风险库中包含的样本标签,例如风险库中有色情样本,则策略场景中可勾选色情内容。
审核场景:审核分类展示的是您在审核策略中配置的场景,您可以勾选希望审核的场景分类。
每日审核上限:可设置每日最多可审核的文本数量,默认无上限。
审核文档
审核后缀:文档格式支持 演示类文件、文字文件、表格文件、PDF 等,支持多选。
选择审核策略:请选择您配置的审核策略(如您未配置过,可选择系统默认策略),不同审核策略对应不同的策略分类,您可以通过自定义策略定制个性化场景审核。支持审核涉黄、违法违规、广告审核场景,可勾选一种或多种检测场景。关于如何配置审核策略,请参见 设置审核策略
已关联风险库:策略场景会展示出已关联风险库中包含的样本标签,例如风险库中有色情样本,则策略场景中可勾选色情内容。
审核场景:此处展示您所选择审核策略中配置的场景,您可以自定义勾选希望审核的场景。
每日审核上限:可设置每日最多可审核的文档数量,默认无上限。
7. 冻结策略界面,设置冻结策略,单击下一步
冻结设置:您可以选择开启该服务,开启后将授权数据万象对相应类型文件进行自动机审冻结,从而禁止公有读访问已检测的违规内容。开启服务后,您需要选择冻结的文档类型和冻结文档分值区间。
8. 在存量数据审核页面查看审核任务结果,您可以根据任务状态进行不同的操作。
img


当任务状态为执行中,您可以查看任务配置终止任务
当任务状态为执行成功,您可以查看审核详情或查看结果统计
查看审核详情:仅支持查看近1个月的审核详情,单击后会跳转到审核页面,您可以进行审核结果导出、手动审核等操作,具体操作指引请参见 审核详情
查看结果统计:该页面展示了该审核任务的统计结果,如对审核结果有疑问,可前往控制台审核详情页面查看具体的审核内容。