产品架构

腾讯云天御内容安全平台,专注解决“内容风险”识别问题,支持文、图、音、视四种内容模态,为客户提供AI机审服务,适合人机协同或纯机审的业务审核架构。

识别能力

基于模型、样本库、规则库的能力,支持不同业务场景下的策略组合,从而实现各类风险内容的有效识别。

涉黄内容识别
识别情色图片、低俗视频、性暗示语言等内容,覆盖真人、动漫、AI生成图等多种风险形态。
低俗内容识别
识别情色、擦边文案、ASMR等低俗暗示倾向的内容,营造绿色健康的网络环境。
违法违规识别
覆盖涉毒、涉赌、诈骗、违法宣传等各类违法信息,帮助平台内容合规运营。
暴恐内容识别
识别暴恐血腥、恐怖惊悚、自残自杀、枪支刀具等违法违规内容,防范极端危害思想传播。
谩骂内容识别
识别内容中的脏话、辱骂、不友善的言论,帮助维护友好的平台氛围。
广告内容识别
识别恶意刷屏、网址导流、金融理财推广、二维码推广等各类广告引流内容,帮助平台维护健康生态。
AI生成识别
帮助平台识别文本、图片、音频、视频是否是由AI工具生成,辅助平台相关打标工作。
自定义样本识别
通过配置词库、图库、音频库等专属样本库,满足不同业务场景的个性化运营需求。

控制台功能

自定义样本库

支持用户根据业务特性创建并管理专属关键词库、图库、黑白名单库与违规样本库,可批量导入导出数据,支持分组管理与权限控制,适配个性化标准。

策略管理

支持对不同业务场景、依据不同的业务标准来自定义策略,包含标签开关、样本库挂载等操作,从而实现业务的精细化运营,平衡准召指标。

数据看板

内置多维度数据分析看板,自动统计审核量、拦截量、违规类型分布等核心机审指标,可快速分析业务风险趋势,为运营决策提供数据支撑。

应用场景

  • AIGC工具
  • 社区论坛
  • 互动直播
  • 视频平台
  • AI生成识别
AIGC工具

适配AI聊天、AI问答、智能体等大模型场景,依据业务管理规定,提供纯机审的产品方案。

  • 危险引导:识别教唆违法行为、鼓励危险行为等言论
  • 低俗言论:识别低俗暗示、擦边聊骚等内容
  • 指令攻击:识别指令的注入引导话术等,阻断高风险合成文本生成。

常见问题

  • 计费相关
  • 控制台相关
  • 自定义词库
  • API调用
  • 错误反馈
  • 其他
  • 一般常见问题

开通与购买流程

1、开通服务:登录腾讯云账号,进入【内容安全控制台】开通相关服务,开通服务的同时系统默认开通后付费。

2、领取试用包:首次开通服务的客户能领取免费试用包。试用包仅支持标准内容安全服务,不支持AI生成识别、金融大模型审校等服务,详情请参见【购买指南】。

3、正式接入:完成API对接后,服务支持预付费套餐包和后付费两种计费模式,购买页 https://buy.cloud.tencent.com/cms?type=tms。

如何充值?

账户部分金额被冻结,何时解冻并退回到账户余额?

更多问题请查看 常见问题

请查阅 产品概述 文档,结合自身实际业务需求,挑选适配的产品服务,即可开展使用