文档建议反馈控制台
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
发布

AI让鉴黄“0”误差，从此涉黄师们不再被掏空

本月，北京首次关停涉黄直播平台“夜魅社区”。此前，映客、花椒等在直播、陌陌等平台的数十位主播因涉黄被永久封禁，商业需求激增“鉴黄师”职业，“鉴黄”势在必行。...AI鉴黄效果怎么样，真否能解放鉴黄师？ 识别色情、暴恐、时政敏感信息、小广告等违规图片和视频方面都要表现卓越，才能真正解放鉴黄师。...极限元 CEO 雷臻表示：目前直播平台涉黄图像检测的准确率高达99%以上，误报率低于1%，需要客户进行人工复核的比例不超过3%。...识别图像中是否存在人物体征，统计人数；识别图像中人物的性别、年龄区间；识别人物的肤色、肢体器官暴露程度；识别人物的肢体轮廓，分析动作行为；除了图像识别之外，还可以从音频信息中提取关键特征，判断是否存在敏感信息；实时分析弹幕文本内容...事实上，无论是智能鉴黄还是人工鉴黄，其目的都是为了营造一个更健康的网络环境。相对于人工鉴黄耗费大量的人力、财力，以及对员工身心的影响，依托大数据和云计算的智能鉴黄显得更为“现代化”。

5.7K20

电商平台商品图智能审核：从涉黄检测到虚假宣传识别的全链路方案

、虚假资质、侵权 ⭐⭐⭐⭐⭐ 买家评价 买家晒图、追评图片 广告引流、涉黄、竞品攻击 ⭐⭐⭐⭐ 营销素材 活动海报、广告Banner、促销图 虚假宣传、违规承诺、夸大效果 ⭐⭐⭐⭐ 客服沟通 售后上传的图片...： 检测维度 电商场景配置要点 涉黄/性感 内衣类目适当放宽性感阈值，其他类目严格 违法 重点检测违禁品（管制刀具、仿冒品标识） 广告 检测图中的竞品LOGO、第三方联系方式 OCR文字 检测"保本""...重点检测二维码、微信号、手机号 涉黄 部分商品的"买家秀"可能含不当内容 自定义黑名单 竞品推广海报、已知黑灰产引流图 OCR文字 检测"加微信""私聊优惠"等引流话术 2.3 场景三：营销素材审核...） 涉黄/暴恐/性感检测 侵权内容（未经授权的品牌LOGO/代言人） 自定义黑名单 AI生成的虚假效果图 AI生成识别 2.4 场景四：客服沟通图片 售后场景中用户上传的图片也需要审核： 风险 说明...只审核"涉黄"是远远不够的——违禁品、虚假宣传、竞品引流、AI假图，每一个维度都需要专项应对。 腾讯云IMS的六大识别维度+自定义策略+OCR文字审核+AI生成识别，为电商场景提供了最完整的武器库。

32510
    • 您找到你想要的搜索结果了吗？
    是的
    没有找到

    不止是涉黄检测！图片内容安全的6大识别维度，你可能只用了一半

    摘要： 只开涉黄检测远远不够。腾讯云IMS提供涉黄、暴恐、违法、广告、性感、自定义识别6大维度及AI生成识别能力。本文逐一解读各维度价值与使用技巧，构建完整防护网。...产品首单5折起）： https://cloud.tencent.com/act/pro/moltbotandai#nrsb 一、完整防线 = 6大维度 + AI生成识别 维度 防护目标 不开启的风险 ① 涉黄检测...二、维度详解与使用技巧 维度①：涉黄检测——基础中的基础 检测范围： 直接裸露、漫画色情、隐晦涉黄 使用技巧： 建议所有场景都开启此维度 配合"性感检测"使用，实现更细粒度的分级管理 对于UGC平台，建议将涉黄的...P入的手机号、微信号等联系方式 维度⑤：性感检测——精细化管理 检测范围： 大面积露肤、暗示性姿势、性感着装、亲密行为 使用技巧： 这是腾讯云IMS独立出来的检测维度，比简单的"涉黄"分级更精细 对于社交平台...从今天起，把你的IMS审核策略从"只开涉黄"升级到"全维度防护"。

    24210

    视频智能审核技术解析：画面+音频+文字三位一体的内容安全防线

    摘要 视频审核不是鉴黄的同义词，而是覆盖画面、音频、文字三路信号，对涉黄、涉暴、违禁、版权、质量等多类风险的系统工程。...三、画面通道 3.1 任务分层 任务 类别 技术 涉黄检测 分类 + 关键区域分割 CNN + Attention 涉暴检测 场景识别 Video Transformer 违禁物品 目标检测 YOLO...5.2 文本审核要点 关键词库：黑名单 + 白名单 + 变体（谐音、拆字、火星文）； 语义分类器：基于 Transformer 的多标签分类（涉黄、涉暴、仇恨、广告、政治敏感）； 对抗鲁棒：对形近字、插入特殊字符做归一化...七、典型风险与处置 风险 示例 处置 涉黄 暴露画面 下架 / 打码 涉暴 暴力血腥 下架 / 模糊 违禁物 枪支、毒品 下架 / 人工复核 侮辱谩骂 音频脏话 静音 / 打码 广告软文 二维码、微信号...八、审核指标 指标 公式 目标 召回率 TP / (TP + FN) 95%（涉黄、涉政） 误伤率 FP / (FP + TN) < 1% 端到端延迟 上传到结果返回 < 1 秒/分钟视频（离线） 吞吐

    13210

    腾讯云通信TRTC推出实时音视频鉴黄功能，一键净化网络环境

    随着视频互动、语聊交友等场景应用的飞速发展，用户的内容也以多种形态在广泛的传播，如何有效的识别应用中潜在的涉黄、涉暴、低俗等不良内容，已经成为了行业的课题。...音频内容检测 对于开启了音频内容检测服务的客户，TRTC 能够实时自动提取音频内容，并送到天御的音频审核服务进行不良内容鉴定，天御完成审核之后通过回调接口通知客户审核结果。...说话人识别：通过声纹识别判断是否为同一说话人； 4、小语种识别：能够支持对蒙藏维哈朝粤日俄越等语种的识别； 5、敏感词唤醒：支持自定义唤醒词针对高频恶意音频进行快速打击识别； 6、音转文识别：将音频转换成文本之后对识别文本恶意...视频内容检测 对于开启了视频内容检测服务的客户，TRTC 通过旁路直播功能将视频流推到云直播服务，云直播从视频流中定期截取图片，并将截取的图片送给天御的图像审核服务进行不良内容鉴定，天御完成审核之后通过回调接口通知客户审核结果...如何接入视频鉴黄 依托云直播的能力，在实时音视频控制台开启旁路直播后可对实时视频流进行鉴黄处理。视频鉴黄功能默认关闭，可登录云直播控制台开启，接入详情请点击“阅读原文”。

    6.6K30

    内容安全最佳实践 | 腾讯云COS这个案例，教你轻松规避内容风险

    对于教学中裸露身体的场景，COS内容审核支持根据审核分数进行灵活配置，控制涉黄尺度。此外，COS还拥有广告审核的能力，VIPKID的存量教学视频中如果有其他厂商的logo，则会自动替换。 ?...如上图，是VIPKID使用内容审核的应用流程：学生在直播上课时，直播数据传输到VIPKID的服务器，VIPKID将直播的视频进行截帧传给COS，COS为其进行涉黄、涉政、广告的审核，审核完后将数据传输给...图片识别场景包括： 色情：识别多种涉黄违规类型的图片，如色情漫画、涉黄图片等 广告：识别多种形式的广告图片，包括网络小广告、微商商品图片、招嫖广告等 违禁：识别多种违法违规内容，包括抽烟吸毒、赌博、打架斗殴等...文本审核 采用前沿的自然语言处理算法，结合海量的敏感关键词库进行建模，并配置有多种预处理和匹配识别规则，快速准确识别各种变形文本，例如拆分字、形似字、音似字、带有干扰符号的句子、有歧义的短语，可有效过滤违规数据...，打造快速、高质、稳定文本审核服务。

    5K60

    免费敏感词检测API - 私有化部署

    敏感词检测API - 私有化部署提供文本识别、智能鉴黄、敏感词过滤、涉政检测等服务，可部署至「本地服务器」或「专有云服务器」，保障数据私密性，提供一键启动软件部署包私有化。...简介敏感词库从760000词组中整理出来，基于NLP算法检测支持Windows、MacOs、Linux等64位主流系统可以部署在本地服务器，也可以部署至阿里云、腾讯云、华为云、百度云等云服务器通过下载部署包...，即可一键启动私有化的"敏感词检测 API服务"自动云更新最新词库支持http json方式或grpc方式查询单服务参考查询效率70000次/分钟，同时支持并行服务按需自定义添加文本白名单/黑名单服务运行内存...65M左右，非常轻便应用场景用户昵称、聊天消息、直播弹幕、评论留言、用户简介、商品详情、创作文章等内容合规检测过滤演示地址坚果墙在线敏感词检测服务下载地址https://github.com/bosnzt...wordscheck快速接入文档文档地址敏感词分类色情：色情传播、x用品、av女优、色情描写、x器官、x行为、色情行为政治：领导人、官员、政党、国家机关、反动言论、邪教、分裂组织、宗教暴恐违禁：枪支弹药、警用军用、涉黑涉恶

    12.3K01

    点播视频多维度审核实战：画面、音频、OCR文本三管齐下杜绝违规

    本文详解腾讯云VM如何通过画面、音频、OCR文本三个维度的协同审核，构建无死角的视频内容安全防线，并结合实际案例展示三维审核相比单维审核的显著效果提升。...错过色情画面、暴力镜头 ❌ 只能看到文字部分 ❌ 漏掉画面中的违规文字 ❌ 漏掉画面中的违规元素 ❌ 覆盖面极其有限 现实案例：某平台只做画面审核，结果一条视频——画面是正常的风景，但音频全程都在播放涉黄内容...二、三维审核深度详解 维度一：画面审核 识别类型 具体内容 色情识别 直接裸露、隐晦涉黄、漫画色情、涉黄物体、性行为 暴力识别 血腥画面、暴力行为、恐怖元素 违法识别 违禁物品、赌博场景、涉毒画面 广告识别...维度二：音频审核 识别类型 具体内容 语音内容审核 将语音转为文字，检测违规语言内容 无语义音轨识别 娇喘、呻吟、ASMR等无明确语义但不良的音频 语种识别 识别中文普通话和英语，辅助跨语种内容管理...维度三：OCR文本审核 识别类型 具体内容 违规文字 画面中出现的涉黄、涉政、违法等文字 联系方式 手机号、微信号、QQ号等引流信息 广告文字 促销文案、虚假宣传语 字幕内容 视频字幕中的违规内容 三

    23410

    图片内容安全入门指南：涉黄、暴恐、违法、广告四大风险类型全解读

    摘要： 图片审核不只是检测涉黄，一张图可能涉及涉黄、暴恐、违法、广告等多种风险。本文以腾讯云IMS为框架，逐一拆解四大风险类型的定义、场景和检测要点。...1.1 定义与范围 涉黄检测是图片审核中最基础也是最重要的能力，覆盖以下子类： 子类 说明 典型表现 直接裸露 明确的色情内容 人体敏感部位裸露 漫画色情 二次元/动漫色情内容 色情漫画、H游戏截图...隐晦涉黄 暗示性但不直接裸露的内容 性暗示姿势、擦边球 性感内容 非色情但挑逗性的内容 大面积露肤、透视装 1.2 为什么难检测？...1.3 腾讯云IMS的应对 将"涉黄"和"性感"拆分为独立检测维度，提供更细粒度的分级 支持漫画色情、隐晦涉黄等"变体"识别 融合数十种算法模型，有效识别遮挡、风格化等规避手法 二、风险类型二：暴恐检测...违法内容与涉黄、暴恐不同，往往具有更强的隐蔽性。例如赌博信息可能以"游戏"的形态出现，毒品交易可能使用暗语和替代图片。通用的违规检测模型很难覆盖这些"定制化"的违法场景。

    24310

    游戏行业图片审核攻略：用户头像、社区截图、聊天图片一网打尽

    https://cloud.tencent.com/act/pro/moltbotandai#nrsb 一、游戏行业图片审核的五大场景 场景 审核对象 核心风险 特殊挑战 用户头像 玩家自定义头像 涉黄...、暴恐、广告 尺寸小，风格多 游戏社区 帖子配图、攻略截图、同人创作 涉黄、外挂宣传、引流广告 游戏画面可能被误判 游戏内聊天 聊天发送的图片 涉黄、引流、辱骂 量大、速快 战绩/成就分享 截图分享到社交平台...（头像不应出现真人涉黄） 游戏内聊天 game_chat 广告检测严格（外挂/代练广告） 战绩分享 game_share 自定义检测外挂标识 步骤3：配置自定义黑名单 黑名单内容 说明 已知外挂软件的截图.../LOGO 精准拦截外挂广告 代练工作室的标准宣传图 拦截代练引流 竞品游戏的引流海报 防止竞品在社区引流 3.2 不同检测维度的游戏场景配置 维度 社区帖子 用户头像 聊天图片 配置建议 涉黄 严格...它需要审核系统能够理解游戏语境，区分"游戏中的正常暴力"和"真实的暴力威胁"，区分"角色立绘的性感"和"真人涉黄"，区分"游戏道具的枪支"和"真实武器的展示"。

    21010

    为什么我的 WordPress 网站被封了？

    网站被封禁有很多原因，其中最常见的就是网站内容违规，即网页包含了涉黄、广告等违法违规的内容，那么如何有效管理网站内容，防止网站被封呢？  ...文档等静态资源进行多场景的审核，从而有效地识别并冻结色情低俗、违法违规、恶心反感等违禁内容，防患于未然，这样就再也不用担心你的网站突然被封啦~ 静态资源审核 静态资源审核可以对媒体库中的图片、视频、音频、文档进行审核，识别并冻结涉黄...内容审核服务提供了以下两种使用方法，可以覆盖不同的使用场景： 自动审核 配置自动审核，可以自动检测存储桶中新上传的文件，并支持自动冻结（禁止公有访问）已检测的违规内容。...上述两种审核配置都支持用户自定义审核策略，通过设置自定义策略可以定制涉黄涉政等个性化场景的审核；审核后支持按照指定的分数范围进行冻结，智能机审+精确人审的方式帮你有效避免违法内容的传播；审核结果可以通过配置的回调链接返回给用户...网页审核支持对网页文件进行自动检测，从 OCR 文本识别、物体检测（实体、广告台标、二维码等）、图像识别几个维度，通过深度学习技术，识别网页中的违规内容。

    5.3K50

    AIGC应用必须过的安全关：如何审核AI生成内容中的违法、涉黄、暴恐风险？

    摘要： 当你的产品集成了AI大模型来生成内容时，你就必须为AI的"不当言论"负责——AI可能生成涉黄暗示、违法引导、暴力描述甚至钓鱼话术。...腾讯云文本内容安全产品介绍：点击了解详情 限时优惠活动：立即查看促销价格 一、AI不是永远"安全"的 大语言模型在生成内容时，存在以下安全风险： 风险类型 说明 触发方式 违法引导 AI生成教唆违法、...鼓励危险行为的内容 恶意prompt注入 涉黄低俗 AI生成低俗暗示、涉黄行为描述 角色扮演诱导 暴力内容 AI生成暴力场景描述、武器制造指引 间接提问绕过 钓鱼话术 AI生成社工攻击话术、诈骗脚本 指令注入攻击...三、腾讯云TMS的AIGC审核能力 识别能力 AIGC场景应用 色情识别 拦截AI生成的低俗暗示和涉黄内容 暴恐识别 拦截暴力描述和恐怖主义内容 违法识别 拦截教唆违法、危险指引 广告识别 拦截AI被诱导生成的广告内容...新老同享 180万条套餐包 1年 3,400元（8.5折） 文本内容安全服务 新老同享 720万条套餐包 1年 11,900元（8.5折） ⏰ AIGC合规审核是产品上线的前提。

    41010

    场景文本检测—CTPN算法介绍

    第三步，因为文本信息的特殊性质，需要进行行列分割，对单个字符，或者是连续几个字符进行检测。 第四步，将分割后的字符图像导入识别模型中进行处理，进而得到原图中的字符信息。...Text Proposal Network)方法就是在场景中提取文字的一个效果较好的算法，能将自然环境中的文本信息位置加以检测。...所以检测的过程中 不妨引入一个类似数学上“微分”的思想，如下图5所示，先检测一个个小的、固定宽度的文本段。在后处理部分再将这些小文本段连接起来，得到文本行。...对比图如下，红色框是使用了side-refinement的，而黄色框是没有使用side-refinement方法的结果： 纵观整个流程，该方法的最大两点也是在于将RNN引入了文本检测之中，同时将待检测的结果利用...“微分”的思路来减少误差，使用固定宽度的anchor来检测分割成许多块的proposal.最后合并之后的序列就是我们需要检测的文本区域。

    20.4K61

    深度解析文本检测网络CTPN

    目录 文本检测概念初识 CTPN总体结构 特殊的anchor 双向LSTM RPN层 NMS 文本线构造算法 文本框矫正 损失函数 效果图 参考 文本检测概念初识 OCR（光学字符识别）是CV一个重要的研究领域...，OCR分成文本检测和文本识别两个步骤，其中文本准确检测的困难性又是OCR中最难的一环，而本文介绍的CTPN则是文本检测中的一个里程碑的模型。...文本检测有别于一般的目标检测，区别有以下几种：（1）一般的目标检测的每个目标一般是孤立的，所以每个目标的边界框都很明确，而对于文本检测中边界其实没有那么容易界定，因为文本（单词）其实是一个序列，在图像中每个单词中间是有空格的...（2）文本是一个序列，除去空间特征它还具有很重要的序列特征，它的上下文的序列信息对我们检测文本是有帮助的，而传统的目标检测提取的都是空间特征，自然效果不好。...效果图 这是去年做的银行卡号识别项目的效果图，可以看出CTPN对这种横向的文字检测效果还是很好的： ? 对于场景中的文本检测效果也是不错： ?

    2.2K20

    文本检测算法EAST介绍

    EAST由旷世科技于2017年发表在CVPR的关于自然场景文本检测的一篇文章。EAST是用来解决多方向文本检测的问题的一种思路。其核心思想体现在了以下几点。...采用了FCN这样一种多尺度融合的方法来进行特征的抽取，用于后续的像素级的文本区域的预测。 EAST能够直接打到倾斜文本检测的目的，能够完成自然场景下文本检测的任务。...支持旋转矩形框、任意四边形两种文本区域的标注形式。换句话说EAST在回归文本区域的时候包括了旋转矩形框、矩形框加旋转角或者任意四边形这样两种不同的区域检测的过程。...由于考虑了方向信息，可以检测出各个方向的文本。 由于感受野的问题，对较长的文本检测效果欠佳。 EAST模型网络结构 在上图中我们可以看到它主要采用了FPN的思想来提取多尺度的融合特征。...EAST模型效果图 针对于自然场景下的文本图片，EAST能够检测出不同方向，不同角度，不同背景，不同环境，不同字体等等各种条件下的文本区域。

    2.6K20

    色情、暴力、血腥等内容屡禁不止，企业如何祛“污”？

    部分平台由于审核人力和技术资源有限，短时间内容易漏过对某些主播视频内容分享的检测，造成平台口碑下降，对观众造成不良影响，甚至触犯法律。...腾讯云天御内容安全解决方案不仅对涉黄、敏感画面有着99%的识别准确率，若遇上主播们通过“声情并茂”的表演获利，发出那羞羞的声音，天御最新的音频识别技术能结合声纹、违禁词汇，来判断出色情娇喘声以及敏感言论...接入腾讯云天御的服务后，天御为「香肠派对」识别出实时语音里的涉黄内容，以及谩骂等。...03 小程序平台 除了常见的直播平台、游戏平台，新兴的小程序平台也被违法的内容制造者盯上，依赖于平台的高互动性，他们开始瞄准这里生产高危内容吸引眼球，其中不乏涉黄、暴力、血腥等各种违法内容。...，可能存在违法图片上传风险，有可能涉黄、涉敏等，毕竟好赚的钱大都违法。

    5.5K40

    【网页内容检测】如何利用腾讯云COS对网页内容安全检测审核API接口？

    PS：近期腾讯云COS对象存储新增对网页内容安全检测能力，实现对网页全部检查，赶快来对接测试下吧！ 提交网页审核任务 功能描述 本接口用于提交一个网页审核任务。...该接口支持情况如下：: 支持对网页文件进行自动检测，从 OCR 文本识别、物体检测（实体、广告台标、二维码等）、图像识别几个维度，通过深度学习技术，识别网页中的违规内容。...网页文本审核：将网页内的文本分离出来进行文本审核，审核费用与文本审核一致。 每个审核场景单独计费，例如您选择审核涉黄、广告两种场景，则审核1个网页，计2次审核费用。...调用接口会产生 图片审核费用、文本审核费用 和 COS 请求费用。...String 是 Container 类型 Conf 的具体数据描述如下： 节点名称（关键字） 父节点 描述 类型 是否必选 DetectType Request.Conf 审核的场景类型，有效值：Porn（涉黄

    5.9K31

    对象存储COS推出一站式内容审核服务，助力打造绿色互联网

    2、覆盖全面 支持图片、音频、语音、文本等多种媒体数据的审核，覆盖各个行业上百种违规类型，具有模型丰富的机审和专业的人工复审团队。...图片识别场景包括： 色情：识别多种涉黄违规类型的图片，如色情漫画、涉黄图片等 广告：识别多种形式的广告图片，包括网络小广告、微商商品图片、招嫖广告等 违禁：识别多种违法违规内容，包括抽烟吸毒、赌博、打架斗殴等...4、文本审核 采用前沿的自然语言处理算法，结合海量的敏感关键词库进行建模，并配置有多种预处理和匹配识别规则，快速准确识别各种变形文本，例如拆分字、形似字、音似字、带有干扰符号的句子、有歧义的短语，可有效过滤违规数据...，打造快速、高质、稳定文本审核服务。...3、通过API调用 通过调用内容审核的API接口，用户可以实现对存储桶内指定的文件进行涉黄、广告引导等内容的检测。

    4.2K30
    点击加载更多

    相关资讯

    热门标签

    更多标签

    活动推荐

      运营活动

      活动名称
      广告关闭

      腾讯云开发者

      扫码关注腾讯云开发者

      扫码关注腾讯云开发者

      领取腾讯云代金券

      热门产品

      热门推荐

      更多推荐

      Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有

      深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 粤公网安备44030502008569号

      腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号

      领券