首页
学习
活动
专区
圈层
工具
发布

新闻传媒平台内容安全升级:AI鉴伪+内容审核双引擎守护新闻可信度

一方面是传统的违规内容(暴力、色情、涉政敏感等)需要持续治理,另一方面是AI生成的假新闻视频这一全新威胁正在快速蔓延。传统的单引擎审核已无法应对这种"双重挑战"。...moltbotandai#nrsb 一、传媒平台面临的双重挑战 挑战一:传统违规内容(持续存在) 违规类型 在传媒场景的表现 暴力血腥 新闻中的过度暴力画面、恐怖画面 色情低俗 娱乐新闻中的擦边内容 涉政敏感...二、双引擎方案架构 2.1 双引擎工作流程 新闻视频入库 ↓ 引擎一:AI生成识别 → 判断"这条视频是否由AI生成" ↓ 引擎二:内容安全审核 → 判断"这条视频内容是否违规"...三、传媒行业的具体应用场景 3.1 新闻视频入库审核 每条进入平台的新闻视频,在发布前先通过双引擎检测: 审核步骤 操作 时效 视频入库 记者上传/爬虫采集/通讯社接入 - AI生成检测 调用AI生成识别...4.1 腾讯新闻同源技术 腾讯新闻是国内最大的新闻资讯平台之一,其内容安全运营经验直接沉淀在腾讯云VM中: 对新闻场景的违规形态有深度理解 对涉政敏感内容的识别有丰富经验 对新闻时效性要求有技术适配 4.2

68410

点播视频多维度审核实战:画面、音频、OCR文本三管齐下杜绝违规

错过色情画面、暴力镜头 ❌ 只能看到文字部分 ❌ 漏掉画面中的违规文字 ❌ 漏掉画面中的违规元素 ❌ 覆盖面极其有限 现实案例:某平台只做画面审核,结果一条视频——画面是正常的风景,但音频全程都在播放涉黄内容...因为没有音频审核,这条视频在平台上存在了3天才被用户举报发现。 教训:视频是多模态媒体,审核也必须是多模态的。...二、三维审核深度详解 维度一:画面审核 识别类型 具体内容 色情识别 直接裸露、隐晦涉黄、漫画色情、涉黄物体、性行为 暴力识别 血腥画面、暴力行为、恐怖元素 违法识别 违禁物品、赌博场景、涉毒画面 广告识别...维度三:OCR文本审核 识别类型 具体内容 违规文字 画面中出现的涉黄、涉政、违法等文字 联系方式 手机号、微信号、QQ号等引流信息 广告文字 促销文案、虚假宣传语 字幕内容 视频字幕中的违规内容 三...万分钟/年65,000元32,500元(约2,708元/月) 提示:点播视频套餐包已包含由视频审核引起的图片和音频审核费用,无需额外购买。

68810
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    腾讯云双十一直播间活动规则

    兑奖方式: 本次直播间的互动中奖名单及前10名下单中奖名单均会在【腾讯云音视频双11直播群】进行公布。中奖用户请微信添加音视频小姐姐(shipinyun0925)兑奖。...License SDK28天使用权,购买10TB点播流量包,赠1年短视频License 精简版使用权。...)日结流量和标准直播国际/港澳台日结流量;自2021年04月20日起,支持抵扣快直播国际/港澳台日结流量,详情可查看 云直播预付费说明; 购买后5天内未使用,支持无理由退款,使用后不支持退款;若账户内容因内容审核问题...(涉黄、涉政等)导致停服,账户下所有资源包均不支持退款; 3、实时音视频:对于单个腾讯云账号,TRTC 预付费套餐包自新购订单发货成功之日起,可享受1次五天内(含五天)无理由全额退还1个套餐包的机会。...、语音通话、视频互动直播、语音互动直播的服务用量; 实时音视频 套餐包自购买之日起至次年本月有效; 4、即时通信IM:各类套餐包使用说明,可查看价格说明; 如果您在购买即时通信 IM 套餐包后有任何不满意

    19.3K170

    业务安全(1)-天御内容安全

    目前天御内容安全主要有下面四种场景: 图片内容安全 文本内容安全 音频内容安全 视频内容安全 图片内容安全(Image Moderation System,IMS)能精准识别涉黄、涉恐、涉政等有害内容,...文本内容安全(Text Moderation System,TMS)服务使用了深度学习技术,可有效识别涉黄、涉政、涉恐等有害内容,支持用户配置词库,打击自定义的违规文本。...音频内容安全(Audio Moderation System,AMS)能自动检测音频,识别音频中的涉黄、涉恐、涉政、谩骂、低俗等违规内容,并支持自定义黑名单热词,打击自定义的违规音频内容。...12、4.0接口图片Review字段是否可以每个标签都输出? 不可以,只有机审后有分数输出的标签才会输出;如广告,二维码则不会输出。 13、音频审核类型中‘点播音频’和直播音频的区别是什么?...14、视频审核-是否支持多个视频同时审核? 支持,最多支持40个视频同时审核。 15、视频审核Callback url 是否有callback失败后recall的逻辑? 没有。

    7.3K130

    私域直播技术驱动营销增长150%:腾讯云×诺云全链路解决方案与量化成效

    技术支撑: 实时音视频(TRTC):集成腾讯25年音视频技术(200+研发、三大实验室),延迟审核:覆盖涉黄(porn/vulgar)、涉暴(militant/guns)、涉政(violation_photo)检测,直播检测延迟审核实时拦截违规内容(来源:快直播、EdgeOne说明)。...—— 某“互联网医院+线下中医馆”双平台模式相关负责人 Why Tencent:技术确定性、生态协同与长期价值 技术底蕴:腾讯云集成25年音视频技术积累,200+研发支持,多媒体/优图/天籁三大实验室...安全保障:EdgeOne一站式防护(CDN/动态加速/DDoS/Web攻击)、智能审核实时合规,数据加密与容灾机制保障业务连续性(来源:诺云核心优势、EdgeOne说明)。

    89850

    技术赋能教育:51Talk 在线教育的 Serverless 及音视频 实践

    当前,教育机构实现 OMO 模式有三种方式:自研、外包服务,以及购买 SaaS 服务。但这三种方式各有困扰: 1....灵活度低:购买 SaaS 服务虽然看似简单,但存在灵活性不佳、数据孤岛、无法满足定制化需求等问题; ? 01....聚焦音视频和多媒体处理 1V1 课堂、小班课、互动大班课和双师课堂是在线教育的四大基础场景,对技术的需求是满足高质量的音视频处理和高并发的稳定性。...长时运行 利用云函数的长时运行机制,支持 12h-24h 的运行时长,可覆盖大文件耗时较长的转码场景。...腾讯云 Serverless 结合 AI 及音视频技术,提供视频智能化编排处理解决方案,包括隐藏式数字水印、AI 智能审核涉黄、涉政内容,辅助视频内容分析和生产,进行实时个性化推荐等。 ?

    2.5K60

    视频智能审核技术解析:画面+音频+文字三位一体的内容安全防线

    摘要 视频审核不是鉴黄的同义词,而是覆盖画面、音频、文字三路信号,对涉黄、涉暴、违禁、版权、质量等多类风险的系统工程。...本文拆解视频智能审核的技术栈与指标,结合腾讯云媒体AI智能审核0.08元/分钟给出企业级落地参考。 一、为什么视频审核比图文难一个维度 图文审核只需看文字、看单图。...八、审核指标 指标 公式 目标 召回率 TP / (TP + FN) 95%(涉黄、涉政) 误伤率 FP / (FP + TN) < 1% 端到端延迟 上传到结果返回 视频(离线) 吞吐...日成本(按 0.08 元/分钟): 50 万 × 3 分钟 × 0.08 = 12 万/日 相比人工审核团队(日均数十万),成本显著可控。...十二、法规与合规 企业必须对以下内容做设计: 未成年人保护:单独审核策略,严控涉性、涉赌、涉毒; 区域合规:跨境业务需按当地法规配置; 留证存档:违规视频和判定证据需按法规留存; 用户申诉通道:人工复核

    1.3K10

    技术赋能教育:51Talk 在线教育的 Serverless 及音视频 实践

    当前,教育机构实现 OMO 模式有三种方式:自研、外包服务,以及购买 SaaS 服务。但这三种方式各有困扰: 1....灵活度低:购买 SaaS 服务虽然看似简单,但存在灵活性不佳、数据孤岛、无法满足定制化需求等问题; ? 01....聚焦音视频和多媒体处理 1V1 课堂、小班课、互动大班课和双师课堂是在线教育的四大基础场景,对技术的需求是满足高质量的音视频处理和高并发的稳定性。...长时运行 利用云函数的长时运行机制,支持 12h-24h 的运行时长,可覆盖大文件耗时较长的转码场景。...腾讯云 Serverless 结合 AI 及音视频技术,提供视频智能化编排处理解决方案,包括隐藏式数字水印、AI 智能审核涉黄、涉政内容,辅助视频内容分析和生产,进行实时个性化推荐等。 ?

    2.1K31

    游戏直播内容安全实战:未成年人保护、暴力画面、弹幕审核一站式方案

    了解腾讯云视频内容安全产品详情:https://cloud.tencent.com/product/vm 新用户首单特惠5折抢购(限购1个):https://cloud.tencent.com/act/...moltbotandai#nrsb 一、游戏直播的五大内容安全风险 风险类型 典型表现 违规后果 暴力血腥画面 游戏中的血腥特效、击杀画面被刻意放大展示 未保法违规 + 平台被约谈 不当语言 主播在游戏中使用辱骂、歧视性、涉政言论...2.1 三维审核覆盖全场景 审核维度 游戏直播应用 画面审核 识别暴力血腥画面、低俗着装、外挂界面截图 音频审核 识别不当语言、涉政言论、ASMR等无语义不良音频 OCR审核 识别弹幕中的违规文字、外挂广告文字...四、限时特惠 新用户首单特惠(5折钜惠·限购1个):腾讯云面向新用户推出视频内容安全产品首单5折特惠,是体验和试用产品的高性价比之选。...服务规格日常价首单特惠价(5折)直播-图片审核 500万张/年15,000元7,500元(约625元/月)直播-音频审核 30万分钟/年10,000元5,000元(约417元/月)点播-视频内容安全 30

    69410

    陪玩系统开发,陪玩系统源码,功能规划、架构设计与源码实现解析

    陪玩师端功能 认证审核(技能、游戏段位、真人审核)服务设置(价格、时段、套餐)接单管理、收益管理开麦语聊房间发布短视频/直播带货等内容获取流量 3....后台管理功能 用户管理、陪玩师审核订单管理、仲裁机制收益抽成比例设置风控系统(违规行为识别)内容审核(短视频/直播/语聊)数据分析:订单、GMV、留存、转化 二、整体架构设计(参考实战架构) 陪玩系统与直播系统...)payment-servicecontent-service(短视频/直播)admin-service 四、风控体系(非常重要) 陪玩平台容易出现违规内容,因此必须做: 文本审核:违禁词过滤图片/视频审核...:接口对接腾讯云/阿里云音频审核:语音涉政涉黄检测黑名单机制IP风控、频率限制 五、开发模式选择 A....自己招团队从 0 开发 需要: Java 后端 2–3人Android、iOSWeb 前端测试、UI架构师(音视频经验) 周期:6–12 个月 六、总结:陪玩系统开发离不开三个底层能力 1.

    2.1K10

    内容安全最佳实践 | 腾讯云COS这个案例,教你轻松规避内容风险

    VIPKID 直播流传输到 COS 对视频帧进行审核 ? 对于教学中裸露身体的场景,COS内容审核支持根据审核分数进行灵活配置,控制涉黄尺度。...如上图,是VIPKID使用内容审核的应用流程:学生在直播上课时,直播数据传输到VIPKID的服务器,VIPKID将直播的视频进行截帧传给COS,COS为其进行涉黄、涉政、广告的审核,审核完后将数据传输给...内容审核核心优势: COS存储+内容审核,一键开启一站式完成内容审核,无额外流量消耗; 成本最优,按截帧频率收费,可以根据场景和涉敏概率,灵活控制截帧数; 机器识别+人工复检,确保审核结果的准确率高达99%...视频审核 利用视频截帧能力将视频帧进行图片审核,可自定义截帧频率,有效降低视频审核成本。...审核的结果可在控制台可视化展现,还支持视频违规自动或手工冻结,拥有和图片审核一致的识别场景。

    5.6K60

    腾讯云 Agent 全栈安全防护与原生安全实践概要

    来源: 中关村论坛 2026 ZGC FORUM 系列活动 演讲人: 董志强,腾讯云副总裁、云鼎实验室负责人 日期: 2026年3月12日 一、 产品定位与核心亮点 腾讯云 AI Agent 全栈安全防护体系...痛点: 提示词注入(XPIA)导致 AI 成为钓鱼工具,以及生成内容违反监管要求(涉政、涉黄等)。 场景三:身份认证与访问控制 受众: 拥有复杂身份系统(IDP)及零信任架构的大型企业。...内容检测级别: 提供 标准(std)、严格(strict)、超严格(super) 三级涉政内容检测。...产品优势(全量提取) 推理防护: 推理前清洗恶意指令,推理后审核生成内容,防止“想错”和“被骗”。 工具管控: 命令执行前实时识别危险命令,进行授权操作拦截。...全链路内容安全: 输入清洗、上下文拼接校验、输出审核,确保合规。 双身份鉴权: 基于 User ID + Agent ID 的组合授权,明确区分人与代理的操作。

    79700

    微信小商店上线,看数据万象如何助力电商行业。

    腾讯云数据万象(Cloud Infinite,CI),将QQ空间相册积累的十年图片服务运作经验开放给开发者,实现对云上的图片、视频、音频、文档等数据进行处理,为客户提供专业一体化的数据处理解决方案。...高清美图会激发用户的购买欲,但与此同时,可能带来图片加载速度太慢的问题,影响成单率: “用户A:加载太慢,老是转圈圈呀,退出!” “用户B:图片太糊,商品细节不清,退出!”...内容审核:机审+人工,多重保障 商户图片涉黄、用户评价图涉政、互动区二维码引流...平台生态安全岌岌可危。 “电商平台:我需要生态安全安全安全!  数据万象:安排。” ...数据万象专业图片审核服务,提供图片鉴黄、鉴政、鉴暴恐和广告检测,AI算法+专业人工审核团队,实现违规图片自动冻结与回调,为电商平台铸就生态安全护城河。...同时,平台可根据需求对各种场景设定不同的审核指标,针对些场景,如服饰类和教育类广告,可选择不同审核阈值,满足个性化需求。

    2.4K50

    【推荐】腾讯云COS对象存储&音视图文内容审核&自动化云端审核热销中!

    【最新活动】:COS & SCF 数据工作流 自动化处理能力>>>>>> #行业痛点 社交平台的文件类型广泛,图片、视频、语音、文本都可能存在违规风险,单一类型的内容审核难以满足客户需求。...游戏类应用中,存在大量用户上传自定义头像,局间聊天,语音连麦等场景涉及内容审核。 游戏行业存在大量场景化定制需求,例如头像审核场景,动漫审核场景等。...可对上述内容进行审核,审核类型包括涉黄、涉政、涉暴恐及广告传播。...2.调用图像审核的URL路径传递参数: 3.自动化任务流审核实现: image.png image.png GET /picture.jpg?.../436/45435 内容审核API:https://cloud.tencent.com/document/product/436/45434 对象存储内容审核:https://cloud.tencent.com

    7K41

    视频智能审核系统的功能 智能审核系统靠谱吗

    尤其是视频智能审核系统,最常应用的是在各个直播平台当中。...视频智能审核系统的功能 第一个识别出是否有涉政的内容。视频智能审核系统可以根据用户上传的视频,从中识别出是否有恶搞政治人物,或者有侮辱国旗国歌的现象。...审核系统会对于垃圾广告进行处理,下架视频或者不让视频发布。 智能审核系统靠谱 当然是靠谱的。系统能够让平台的内容更加丰富,防止一些不良视频的产生。...智能审核系统就可以帮助平台在审核视频内容方面更加轻松,所以不管是平台还是个体的视频发布者完全可以信任审核系统。 视频智能审核系统帮助人们可以观看到更多有内涵有质量的视频。...短视频的发展对于现在社会的发展有很大的影响,如果不多加审核视频内容,对于社会风气会造成影响。

    6.4K30

    腾讯云数据万象CI助力企业解决图片处理需求!

    总有人在我们平台发布黄色、政治类的图片,单靠人工审核太慢,怎么解决? 亲们 又说… … 数据万象 CI 旨在提供专业一体化的图片、视频解决方案,将腾讯沉淀了多年的技术服务开放给开发者。...内容审核,涉黄、涉政、涉恐等多种类型的敏感内容审核服务,有效识别违禁信息,规避违规风险。  视频处理,视频截帧、视频转动图、智能封面等功能,提升视频点击率及用户视觉体验。...场景2:内容识别 社区、论坛类UGC图片内容具有不确定性,需进行内容审核以规避风险。...场景二:内容识别 数据万象的内容识别功能可以实现对内容的识别,针对拥有大量 UGC 内容的电商、论坛、社交网站等领域,数据万象提供鉴黄、鉴政、鉴暴恐等多种类型的敏感内容审核服务,有效识别违禁图片,规避违规风险...针对问题: UGC内容审核 存量数据抽检 解决方案: 上传时自动检测,并可设置回调及自动封禁,通过持久化处理接口扫描存量数据。

    5.1K00

    为什么我的 WordPress 网站被封了?

    网站被封禁有很多原因,其中最常见的就是网站内容违规,即网页包含了涉黄、广告等违法违规的内容,那么如何有效管理网站内容,防止网站被封呢?  ...在此基础上,我们可以基于数据万象 CI 的一站式内容审核服务,对存储在 COS 中的图片、视频、语音、文档等静态资源进行多场景的审核,从而有效地识别并冻结色情低俗、违法违规、恶心反感等违禁内容,防患于未然...,这样就再也不用担心你的网站突然被封啦~ 静态资源审核 静态资源审核可以对媒体库中的图片、视频、音频、文档进行审核,识别并冻结涉黄、广告、恶心反感等违法违规内容,避免违法违规内容在网站上传播,防范封禁风险...上述两种审核配置都支持用户自定义审核策略,通过设置自定义策略可以定制涉黄涉政等个性化场景的审核;审核后支持按照指定的分数范围进行冻结,智能机审+精确人审的方式帮你有效避免违法内容的传播;审核结果可以通过配置的回调链接返回给用户...,对存储在 COS 中的图片、视频等静态资源进行多场景的审核。

    6K50

    金山云:开放“金睛SDK,自动解决各种违规问题

    违规内容成了平台审核之痛,发展之殇。在此背景下,主管部门重拳出击,多个短视频平台遭约谈、整改、下架。...短视频、直播平台持有对违规内容绝不姑息的坚定立场以及从严处理的决心,在投入庞大资金的同时,并已开始大幅度扩大审核团队,加大人工审核力度进行紧急应对。...然而,由于视频量巨大,人工审核力有不逮,在加大人工审核力度之外,金山云金睛——一站式AI内容安全服务为视频平台提供了全新的解决方案。...当前,每天新增的短视频、直播数量不低于5000万条,不良“UP主”、主播使出“十八般武艺”钻监管漏洞,常出现图像正常而语音违规、违规行为持续时间短、打规则擦边球等问题,都会加大审核难度。...“金睛”基于精准AI算法模型,支持涉黄、涉恐、涉政、不良广告等多种违规场景的内容审核,同时提供直播实时AI内容安全监管服务、短视频AI安全审核解决方案,从而有效净化网络环境。

    4.5K40

    化繁为简,爆款语聊产品背后的业务逻辑

    但快速爆发的实时音视频需求仍然面临挑战,一套成熟的音视频技术体系成为助力产品快速发展的必要保证,与此同时,音频社交的场景催生了新的合规需求,如何保证平台音频内容合规成为产品稳健发展的刚需。...相比传统的音频内容审核,在语聊房场景中的多人实时语音的在线审核,非常繁杂,尤其是日活较高的社交产品,语音内容审核成本和难度更大。...因为语音审核除了基础的文本分类技术外,还有三大基础技术难题,即: 语音识别:互联网语音场景常伴有强背景音、语速快、咬字不清、口音严重等情况,相比普通场景,语音识别难度倍增; NLP:涉政、色情、辱骂等违规音频表达变化多端...七牛云针对实时音频流的内容审核场景提供色情/广告/涉政/违规等内容的识别,及娇喘类声音的识别能力。并且提供两种方式接入,帮助客户提高审核效率,净化网络环境: 直播审核 API - 适用于直播场景。...实时监测,3 秒内返回结果;  文件审核 API - 适用于语音消息、文件、短视频。可以做到先审后发。

    2.7K20

    typecho接入百度AI文本审核过滤垃圾评论

    百度文本内容审核 前几天双十一百度文本内容审核,就想把评论接入文本审核,网上查了有适合typecho的插件,今天分享一下,随便说一下具体操作 先介绍一下什么是百度文本内容审核 百度文本内容审核能检测到文本中夹杂的教育...、推广、辱骂、违禁、涉政、灌水等垃圾内容,净化网络环境,为您的应用提供更可靠的内容安全保障,发挥棒球的深度学习技术,判断一段文本内容是否符合网络发文规范,实现自动化、逼真的文本审核,致命的驾乘内容审核的人力成本...为您的产品保驾护航 能力介绍 文本教育:对文本中的教育行为描述、教育资源链接、低俗交友、污秽文爱等内容进行识别 暴恐违禁:对暴力行为、智力内容、特征、识别特征等违禁进行 政治敏感:对文本中的敏感事件、涉政人物...Github 下载源码,将源码上传到Typecho插件目录usr/plugins 修改插件文件名为 BaiduTextCensor 然后在后台启用 使用 使用方面很简单,在百度Ai控制台的产品服务 / 内容审核...合规 不合规 疑似 审核失败 在合规时继续执行原有逻辑;不合规时提示从新评论

    3.2K30
    领券