内容安全最佳实践 | 腾讯云COS这个案例，教你轻松规避内容风险

云存储

发布于 2021-07-29 12:03:01

3.4K0

发布于 2021-07-29 12:03:01

前言

《网络安全法》作为中国第一部全面规范网络空间安全管理方面问题的基础性法律，自2017年6月1号起实施，至今已有4年时间。此后几年，《国家网络空间安全战略》《通信网络安全防护管理办法》《网络产品和服务安全审查办法》等网络安全法律法规和战略规划相继出台。

可以预见的是，监管部门对网络内容安全监管将日趋严格，企业约谈、整顿、罚款、关停的案例已经屡见不鲜。那互联网企业要如何做好内容风控呢？

为了解决数据内容安全问题，腾讯云对象存储COS推出了一站式内容审核，提供了包含图片、视频、语音、文字等全品类数据的内容安全智能审核服务，帮助用户有效识别色情低俗、违法违规、恶心反感等违禁内容。

VIPKID是全球增长速度最快的在线青少儿英语教育品牌，对内容健康问题尤为关注，但怎样才能快速、准确的识别直播中的违规内容，为在线教育建设绿色健康的平台环境？

VIPKID：成本最优，按截帧频率收费，可规避教学直播场景中低俗色情、虚假广告、抽烟赌博等违规内容风险。

VIPKID是如何规避内容风险的呢？下面我们来拆解下。

VIPKID

直播流传输到 COS

对视频帧进行审核

对于教学中裸露身体的场景，COS内容审核支持根据审核分数进行灵活配置，控制涉黄尺度。此外，COS还拥有广告审核的能力，VIPKID的存量教学视频中如果有其他厂商的logo，则会自动替换。

如上图，是VIPKID使用内容审核的应用流程：学生在直播上课时，直播数据传输到VIPKID的服务器，VIPKID将直播的视频进行截帧传给COS，COS为其进行涉黄、涉政、广告的审核，审核完后将数据传输给VIPKID，VIPKID决定是否切断直播。

内容审核核心优势：

COS存储+内容审核，一键开启一站式完成内容审核，无额外流量消耗；
成本最优，按截帧频率收费，可以根据场景和涉敏概率，灵活控制截帧数；
机器识别+人工复检，确保审核结果的准确率高达99%；
功能多样，增量数据上传时自动审核，存量数据支持批量审核；
性能高效，服务秒响应，有效保障用户直播教学体验，VIP客户可定制高达上千QPS，适用极端审核情况，应对快速变化的监管需求；
场景化定制，紧跟时事热点，通过大量实时数据进行训练，快速应对时政变化。

除了上面说到的视频截帧审核，COS还支持对语音、图片、文字等全方位内容检测，详情如下：

图片审核

采用前沿的图像识别算法，结合海量的违规图像数据进行训练建模，覆盖度广、识别准确率高、召回率高，并实时跟进监管要求，不停地更新审核服务的识别标准和能力。图片识别场景包括：

色情：识别多种涉黄违规类型的图片，如色情漫画、涉黄图片等

广告：识别多种形式的广告图片，包括网络小广告、微商商品图片、招嫖广告等

违禁：识别多种违法违规内容，包括抽烟吸毒、赌博、打架斗殴等

视频审核

利用视频截帧能力将视频帧进行图片审核，可自定义截帧频率，有效降低视频审核成本。审核的结果可在控制台可视化展现，还支持视频违规自动或手工冻结，拥有和图片审核一致的识别场景。

音频审核

使用前沿语音识别算法构建的语音识别（ASR）引擎，能够对语音的内容进行转译处理，识别违规内容包括色情、广告、低俗、灌水等。并能结合音频特征识别技术，准确识别低俗语音（呻吟、娇喘、ASMR）等违规内容。还兼容各种地方口音的普通话，高效协助用户审核处理视频直播、语音直播或对话等场景产生的音频数据。

文本审核

采用前沿的自然语言处理算法，结合海量的敏感关键词库进行建模，并配置有多种预处理和匹配识别规则，快速准确识别各种变形文本，例如拆分字、形似字、音似字、带有干扰符号的句子、有歧义的短语，可有效过滤违规数据，打造快速、高质、稳定文本审核服务。