专栏首页腾讯云安全的专栏“净网2019”行动即将开始,企业如何做好内容安全?

“净网2019”行动即将开始,企业如何做好内容安全?

近日,全国“扫黄打非”办公室为贯彻落实2019年“扫黄打非”专项行动,从3月起开始大力组织开展“净网2019”、“护苗2019”、“秋风2019”等专项行动,持续净化社会文化环境。

那么总结下本次线上“扫黄打非”工作重点信息

整治对象瞄准:

包括自媒体、文学、直播

以及学习类 APP 等场景。

丰富大众娱乐生活的直播 APP 快速发展,

衍生出了众多全新内容平台,

别有用心者嗅到机会,

开始散播色情、暴力等“网络垃圾”。

此外,互联网流量的不断增加,

也使得互联网“扫黄打非”工作难度不断升级。

面对此次国家新一轮的净网行动号召,

直播 APP 等内容平台何去何从?

先梳理下互联网“扫黄打非”的历程,

不难发现出现了三次显著的技术对抗更迭:

1.互联网起步阶段,互联网鉴黄主要走“人肉攻略”,人工完成图片鉴定工作;

2.随着互联网的发展,网络数据量骤增,以肤色识别算法过滤“黄色”图片成为了主流手段,机器鉴黄与人工鉴黄相互配合;

3.如今,到了移动互联网阶段,网络数据再次骤增,人工鉴黄已经很难适应如今的工作量,加上视频、直播等业务的暴涨,纯靠肤色识别算法作为“过滤”的方式,已经过时。

好在人工智能的适时出现,

通过深度学习匹配处理庞大的数据信息。

特征提取+智能识别

扫荡“音视图文”的黑暗角落

针对藏匿在互联网“音视图文”中的不良内容腾讯云天御对色情、暴力、敏感等非法内容中提取的特征,配合腾讯多年的内容安全经验,针对不同形式的违规内容,打造了一整套的高效识别引擎模块

首先,面对图片内容会有相似度识别通过与过往的数据内容相比,判断该图片是否属于违法范围。如果命中将会给予客户拦截的建议,否则将送到后续的智能识别模块识别色情、暴力、敏感等非法内容。

针对视频内容,腾讯云天御会根据一定频率截取视频图片,得到视频按帧记录的图片库。去掉重复的和模糊的,提取关键因素的图片送到产品后台系统。之后对其采用图片识别模块的操作,对其视频内容进行判断。

此外,在面对文本内容信息时,腾讯云天御通过智能模型处理系统,对其包含的内容做检测,识别其中是否包含色情、暴力、敏感等违法要素,给予迅速地拦截。

除了能够检测正常文本之外,还配置了强大的文本预处理系统对抗非法分子创造的恶意文本,有效地打击了非法分子的恶意文本传播行为,建立一个健康的检测模型。

以 AI 正视听

毫秒级识别不良音频

道高一尺,魔高一丈。除了常见的图片、视频、文本等形式外,音频如今也成了垃圾内容的“主战场”

当下,游戏内语音交流已成常态,无论是手机游戏中的音频传输,还是通过语音及时通讯工具传输的音频内容,都是音频垃圾内容的灾区。此外,在直播平台直播过程中,也有违规音频内容的传播、传递,制造网络垃圾。

音频内容往往时间短或是信道复杂等问题,难以分辨,隐隐成为当下“扫黄打非”的难点。

腾讯云天御语音识别模块能够对语音进行音频分类和种子库匹配等方式来过滤恶意音频,同时还通过音转文技术对样本库进行更新,达到精确识别语音的目的。

在具体技术上,腾讯云天御采用了高效的 i-vector 系统保证较长音频正确快速检出,同时对信息量不足的短音频采用 DNN embedding 系统进行特定检出,两者互为补充,加上多种信道补偿算法的融合,同时保证了系统的识别性能和识别效果。

基于变长统计和深度学习混合的鉴黄系统,腾讯云天御可以做到0.02秒能够识别1秒的音频。

权威认证

腾讯云天御守卫您的内容安全

腾讯云天御针对互联网不良内容的体系化识别能力,也获得了国家的认可。2019年1月16日,在由中国信息通信研究院指导,云计算标准和开源推进委员会承办,云计算开源产业联盟支持的"严守红线,共筑安全-内容安全的管与控"的云计算安全沙龙上,中国信息通信研究院发布了国内首批内容安全解决方案评估成果,腾讯云成为首批通过试点评估测试的企业。

目前,腾讯云天御已在多个行业被应用,守护近万家客户的内容安全,保障业务健康开展,守卫互联网的一片净土。

关注腾讯云安全

获取更多资讯

本文分享自微信公众号 - 腾讯云安全(TencentCloudSecurity)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-02-28

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • “净网2019”行动即将开始,企业如何做好内容安全?

    近日,全国“扫黄打非”办公室为贯彻落实2019年“扫黄打非”专项行动,从3月起开始大力组织开展“净网2019”、“护苗2019”、“秋风2019”等专项行动,...

    腾讯云安全
  • AI 安全赋能产业,腾讯云天御打击黑产动真格

    腾讯云安全
  • 干货集锦(上)︱云+未来峰会:智慧安全护航企业数字化转型

    腾讯云安全
  • “净网2019”行动即将开始,企业如何做好内容安全?

    近日,全国“扫黄打非”办公室为贯彻落实2019年“扫黄打非”专项行动,从3月起开始大力组织开展“净网2019”、“护苗2019”、“秋风2019”等专项行动,...

    腾讯云安全
  • 抗击疫情 | 腾讯云AI免费为战疫开发者提供服务

    为了抗击新冠肺炎病毒疫情,腾讯云AI即日起免费为战疫开发者提供人脸识别、文字识别、语音识别、语音合成、机器翻译、腾讯智能对话平台TBP等服务,直至疫情结束。所有...

    腾讯云AI中心
  • 申请免费的腾讯云SSL证书实现https访问教程

    本教程教你免费申请腾讯的1年免费使用的SSL证书。腾讯云SSL证书是免费使用的可以尝试一下,已经收录的站需要在站长平台开启网站改版规则,不然会影响优化

    主机优惠教程
  • Android 插件化原理解析——插件加载机制

    上文 Activity生命周期管理 中我们地完成了『启动没有在AndroidManifest.xml中显式声明的Activity』的任务;通过Hook AMS和...

    weishu
  • 如何在Ubuntu 13.10上使用Varnish和Nginx配置集群Web服务器

    集群Web服务器是Web托管中使用的一种技术,用于在多个计算机或“节点”之间分配负载。此技术的目的是消除单点故障并提高网站可用性和正常运行时间。通常,Web群集...

    楠宝宝
  • 多分支流水线任务对 GitLab SCM 的支持

    这个插件还没有二进制文件可用,因为这个插件还处于非常早期的 alpha 阶段,还没有为公众准备好。如果您想尽早介入,可以尝试自己从源代码构建它。

    LinuxSuRen
  • 使用visualvm远程监控JVM LINUX服务器配置方法

    进入$JAVA_HOME所在的根目录的/jre/lib/management子目录下,

    流柯

扫码关注云+社区

领取腾讯云代金券

玩转腾讯云 有奖征文活动