API 文档

SDK 文档

诚邀爱技术、爱分享的你,成为文档内容共建者> HOT

简介

文本审核功能可帮助用户有效检测文本文件中的违禁内容,可以检测涉黄、违法违规、广告、谩骂等可能令人不适的内容。目前支持机器自动审核和专业团队人工复审,全方位保障平台的安全。

涉黄检测

精准检测色情文本,能检测各种变体,如拼音、拆字、谐音变体等,检测算法结合海量的违规文本数据进行训练建模,具有很好的抗干扰能力。

广告检测

检测垃圾广告内容,包括恶意刷屏广告、微商广告、牛皮癣广告、色情引流广告等,支持检测符号、图标、拼音、表情包等变异手法。

说明:

开启文本审核功能后,您可通过控制台方式获取检测标签、违规内容及置信度,可以直接采用置信度高的结果;针对置信度低的结果,您可选择人工复审,腾讯云天御人工审核团队提供专业审核服务,保障内容安全。

适用场景

电商平台

电商类平台中存在大量的用户评论,用户的评论内容多种多样,很容易存在谩骂、广告等令人不适内容。文本审核可以覆盖各种文本内容类型,检测用户发出的内容,拦截评论中的违规内容,降低人工审核成本。

社交平台

文本审核可以广泛应用于 BBS、博客,以及有用户 UGC 内容的各类网站,包括发帖、回帖及站内信等场景,检测文本中的不适宜内容。通过控制台配置实现增量内容自动触发,服务毫秒级响应,有效保障用户的浏览体验。

视频平台

视频直播中,存在大量用户弹幕、用户评论等场景。传统审核依靠人工审核标注去除违规内容,审核周期较长。文本审核可以精准检测令人反感、不安全或不适宜的内容,快速定位,自动禁封,有效提高审核效率,保障平台安全。

使用方法

上传时自动审核

您可通过数据万象控制台开通服务,开通后该存储桶中新增的文本文件会在上传时进行内容审核处理。使用详情请查看 文本审核 控制台文档。

审核结果查看

  • 回调设置:您可设置回调地址、回调审核类型、回调阈值等对回调内容进行筛选,审核结果将自动发送至您的回调地址,便于您进行后续操作,回调内容详情请查看 文本审核 控制台文档。
  • 可视化处理:开启文本审核功能后,您可在控制台审核详情界面根据条件查看审核结果,并对审核结果进行手动处理。使用详情请查看 审核详情 控制台文档。
目录