内容安全沙龙在京召开：严守红线，共筑安全

1月16日，由中国信息通信研究院指导，云计算标准和开源推进委员会承办，云计算开源产业联盟支持的"严守红线，共筑安全-内容安全的管与控"的云计算安全沙龙在北京召开。来自中央机关、国家部委、中国移动集团信安中心等内容安全专家及40多家相关企业代表，围绕"文字、图片、音频、视频"违规信息识别方面进行技术分享。

会上，中国信息通信研究院发布首批内容安全解决方案评估成果，郑州金惠计算机系统工程有限公司、腾讯云计算（北京）有限责任公司、同盾科技有限公司成为首批通过评估的企业。 可信云内容安全解决方案标准重磅发布

夯实安全之路

为落地《中华人民共和国网络安全法》中对用户发布信息的管理要求，云计算标准和开源推进委员会云安全工作组根据"严守红线"的安全方针，组织电信运营商、云计算服务提供商、安全厂商的相关技术专家，编制并发布了"可信云"系列标准《基于云计算的业务安全风险解决方案技术要求 第1部分：内容安全》。

本次会议上，中国信息通信研究院云大所云安全专家王敬宇对该标准进行了解读，该标准规定了内容安全解决方案的功能要求、性能要求、自身安全功能要求，云计算服务提供商和安全厂商的内容安全解决方案，其在功能设计、产品研制、能力评估等方面均可参照此标准执行。

据悉，可信云作为云计算领域信任体系的权威认证，已经覆盖云计算全产业认证。此次基于云计算的内容安全解决方案技术要求作为一种新型的服务标准被纳入可信云的评估标准，必将促进整个内容安全行业向更高的标准去提升，对整个产业生态的有序发展起到积极的推动作用。

首批企业通过试点评估测试

严守行业标准

为了将标准落到实处，中国信息通信研究院于2018年11月开展了国内首个云计算行业的内容安全解决方案评估，金恵科技、腾讯云、同盾科技作为首批企业参与了此次评估。

据中国信息通信研究院云大所何友斌介绍，为了确保评估质量，评估专家精心准备了多样化的文本、图片、音频、视频测试样本，包含涉黄、涉政、血腥、暴恐等内容大类，并对测样本进行了复杂处理。

评估过程中发现，金恵科技、腾讯云和同盾科技主要使用深度学习技术训练监测模型，并结合已知违规样本的分类标签技术对海量数据户进行实时监测，在节约人工审核成本的同时，大幅度提高了违规内容识别的准确率和查全率，并有效降低了误判率。

本次评估，客观、真实地反映解决方案的水平，为企业选择和部署内容安全解决方案提供值得信赖的参考和依据。

会上，中国信息通信研究院云大所副所长张雪丽宣布了首批内容安全解决方案评估结果，并为首批通过评估的企业颁发了证书。

张雪丽指出，云计算和大数据技术飞速发展的今天，暴力、血腥、政治、黄赌毒以及不良社会导向等违规内容在网络中肆意传播。云计算服务提供商基于SaaS(软件即服务)服务模型迭代更新快、部署方便、行业场景配置灵活等优势，对电信运营商、互联网企业提供内容安全审计服务，共同维护了健康绿色的内容安全环境。

探讨内容安全实践路径

共建网络“净土”

此次会议上，中国信息通信研究院及内容安全解决方案专家代表，围绕网络内容安全、不良信息治理技术，共建绿色健康的互联网环境等内容展开了分享和讨论。

腾讯云安全策略专家周耀辉分享了内容安全策略的最佳实践，基于四大场景的六类违规内容识别，通过智能AI+人工审核一站式解决目前网络中违规内容的问题。

金恵科技信息安全事业部技术总监张雷从数据、算法、集成三个方面分享了信息安全解决方案方面的经验，基于大数据处理技术、领先机器学习算法、核心图像识别和文本比对算法及多年系统集成经验，为中国的信息化建设保驾护航。

同盾科技内容安全产品负责人李金桦分享了智能内容安全保护在直播场景下的应用，他认为内容防控是一个长期攻防对抗的业务过程，面对未来的内容安全市场，利用前沿的AI科技并对业务场景适配和精调，从技术上保证识别的效果。

据中国信息通信研究院云大所何友斌介绍，为了进一步探寻内容安全实践路径，云计算标准和开源推进委员会云安全工作组将协助统筹监管机构、科研院所、安全厂家、云服务商、用户等多方资源，合法合规开展内容安全解决方案实践工作，积极配合监管部门开展相关安全审查工作，建立信息安全重大保障期间的内容安全应急互动机制。

在圆桌环节，与会嘉宾共同探讨认为，在发达的互联网时代，网络并不是"法外"之地，每个人都应自觉遵守网络秩序，行业也须加强自律，共同创建文明健康的网络环境。相信随着监管技术的进步以及相关法律的逐渐完善，必将还网络一片净土。

【科技云报道编辑】

转载请注明“科技云报道”并附本文链接