有奖征文:轻量对象存储LighthouseCOS用户实践> HOT

产品简介

文本审核功能可帮助用户有效检测文本文件中的违禁内容,可以检测涉黄、违法违规、广告、谩骂等可能令人不适的内容。目前支持机器自动审核和专业团队人工复审,全方位保障平台的安全。

涉黄检测

精准检测色情文本,能检测各种变体,如拼音、拆字、谐音变体等,检测算法结合海量的违规文本数据进行训练建模,具有很好的抗干扰能力。

广告检测

检测垃圾广告内容,包括恶意刷屏广告、微商广告、牛皮癣广告、色情引流广告等,支持检测符号、图标、拼音、表情包等变异手法。
说明
文本审核是付费服务,具体费用可查看 内容审核费用,数据万象在账户首次产生该服务用量后,将发放一个用量为10万次,有效期为2个月的免费额度资源包,超出用量或资源包到期后将正常计费。
使用文本审核时,请先确认相关限制条件与地域,详情请见 使用限制
开启文本审核功能后,您可通过控制台方式获取检测标签、违规内容及置信度,可以直接采用置信度高的结果;针对置信度低的结果,您可选择人工复审,腾讯云天御人工审核团队提供专业审核服务,保障内容安全。


功能体验

您可在线体验文本审核功能,单击前往 数据万象体验馆



适用场景

电商平台

电商类平台中存在大量的用户评论,用户的评论内容多种多样,很容易存在谩骂、广告等令人不适内容。文本审核可以覆盖各种文本内容类型,检测用户发出的内容,拦截评论中的违规内容,降低人工审核成本。

社交平台

文本审核可以广泛应用于 BBS、博客,以及有用户 UGC 内容的各类网站,包括发帖、回帖及站内信等场景,检测文本中的不适宜内容。通过控制台配置实现增量内容自动触发,服务毫秒级响应,有效保障用户的浏览体验。

视频平台

视频直播中,存在大量用户弹幕、用户评论等场景。传统审核依靠人工审核标注去除违规内容,审核周期较长。文本审核可以精准检测令人反感、不安全或不适宜的内容,快速定位,自动禁封,有效提高审核效率,保障平台安全。


前提条件

已开通 COS 服务、创建存储桶并上传文件到存储桶。具体操作请参见 存储桶文件
已开通数据万象服务并绑定存储桶。具体操作请参见 存储桶绑定



使用方法

上传时自动审核

您可通过数据万象控制台开通服务,开通后该存储桶中新增的txt文本文件会在上传时进行内容审核处理。使用详情请查看 文本审核 控制台文档。

历史数据扫描审核

对于存储于 COS 中的历史文本文件数据,您可以通过控制台的 历史数据审核配置,对指定存储桶、目录、某个上传时间段的文本进行审核。

使用 API 接口

您可以使用我们提供的 API 接口直接传入文本或 txt 文本文件进行内容审核,详情请参见 文本审核 API 文档

审核结果查看

回调设置:您可设置回调地址、回调审核类型、回调阈值等对回调内容进行筛选,审核结果将自动发送至您的回调地址,便于您进行后续操作,回调内容详情请查看 文本审核 控制台文档。
可视化处理:开启文本审核功能后,您可在控制台审核详情界面根据条件查看审核结果,并对审核结果进行手动处理。使用详情请查看 审核详情 控制台文档。