靠机器or靠人工?天府TV“AI+人工”完整闭环解决方案

最近,打开抖音、快手、B站等APP,你是否发现它们都弹出了“青少年模式”

抖音平台“青少年模式”

今年“六一”儿童节前夕,国家网信办指导14家短视频社交平台以及4家网络视频平台统一上线了“青少年防沉迷系统”,其主要功能在于独立分发未成年用户的专属内容,以及限制其使用时长

去年开始,各大内容平台都陆续迎来了一系列大刀阔斧的整改篇章。不久前,网信办会同有关部门对26款音频社交平台进行新一轮全面集中整治,新兴的音频社交平台因此迎来不少质疑。

一年多的时间内,互联网的UGC内容审查方向均在走向人工强干预,业界甚至有人认为,真正靠AI审核内容可能还需要5-10年的窗口期。现实已经表明,只有督促互联网公司承担社会责任,强调算法的价值观,在产品设计上创新未成年人保护措施,加强内容安全监管,才能杜绝短视频社交平台中的种种乱象。

1

人工干预已成行业共识

得益于算法技术的发展,互联网公司通过用户画像实现了相对精准的信息推送。但如果不对信息的分发加以干预,诸如强烈性暗示、虚假信息、软色情等内容就会在推荐网络中蔓延,科技界、媒体界由此展开了关于“算法有没有价值观”的讨论。

在几大内容平台持续加大内容审核业务上的资源和人力投入上可见,当遇见“算法有没有价值观”这一命题时,他们都作出了共同选择。这些整改措施,都在强化人工审核在内容审查机制中的主导作用。

02

机器审核只能辅助识别

其实无论什么载体的媒介,在真正的AI时代来临之前,所有的机器审核都只会是人工的辅助。在流程设计上,机器审核可以做到的就是帮助运维者先行剔除大量确切违规的内容,剩下的人工审核流程可不能说省就省。

举个例子,一张人像图片,可以划分为“色情”“性感”“正常”三个维度,机器审核可以根据肉体裸露的程度进行判断,实际上信息的表义可没那么简单,究竟该怎么定义“性感”?全无裸露的人体通过场景与动作的表达能不能达到人们对“色情”的认知?

人生而爱美,如果说“性感”可以从性暗示程度、信息接收者的舒适度作为标杆,那么定性标尺就掌握在网站运维者手上,各社交平台的编辑责任制也因此诞生。

//////////

在网信办等相关部门的有力监管下,各类音视频、社交平台等只有坚持以正确的价值观引导人工审核辅之以机器协助,才能真正将自己的社会责任落到实处。

由成都音像出版社有限公司自主建设运营的国家级平台型项目,该项目在中宣部、原国家新闻出版广电总局支持和指导下,依托成都音像出版社持有的互联网内容制作、出版、发行等核心资质,抓住国家对网络视听产业相关政策调控的历史机遇,充分运用云计算、大数据等前沿互联网技术,整合全国具有前置审批资质机构的专业编辑审核资源,为各类网络视听传播平台及其他内容审核需求方提供图、文、音频、视频内容播出前的第三方审核服务。

平台优势

具有广电+新闻出版」的国企身份,并已在原国家新闻出版广电总局改革发展项目库正式入库。审核模式为「AI +人工」的完整闭环解决方案,大幅度降低漏审、错审风险。

平台大事记

2018年3月,被列入原国家新闻出版广电总局“改革发展项目库2018年度入库项目”。

2018年4月,正式开始接入互联网平台的第三方内容审核业务。

2018年12月,天府TV内容审核平台1.0版本在第六届中国网络视听大会上正式上线发布,形成审核基地集中审核与远程协作审核相结合的“人工+智能”的专业化、规模化第三方内容审核模式。

2019年1月,该项目通过了由四川省广播电视局组织的专家组评审。专家组成员来自国家广播电视总局广播电视科学研究院、电子科技大学、四川广播电视台、成都市广播电视台等单位。被列为四川省内容审核试点平台。

2019年6月,天府TV网络视听内容审核标准体系评审会召开。国家广播电视总局规划院、四川省广播电视台、成都市广播电视台等单位专家组成员听取汇报后,认为该标准体系内容全面详实、结构清晰、理念先进,具有可操作性和现实指导意义。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190907A0KXVV00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券