翻转直播印象 平台运用AI技术创造更健康环境

▲17LIVE多元社群暨监控部门总监钟子伟（中）表示，现在直播平台追求的都是「绿色直播」的环境。（图／M17提供）

记者邱倢芯／台北报导

「直播」、「直播主」过去时常会与色情、博弈等新闻有所连结，让部分人听到这些相关名词时，就有一些不好的既定印象；但事实上，有许多直播平台早已在自家系统中导入人工智慧（AI）技术，加以监控直播主的行为，目的就是要让直播平台更健康，且老少咸宜。

「其实现在直播平台追求的都是『绿色直播』的环境。」17LIVE多元社群暨监控部门总监钟子伟指出，早在2015年时，17直播就成立了Skyeye技术团队，来加以监控直播主们在直播间内的行为。

Skyeye团队是在2015年10月时成立，约是在17直播平台开创的第三个月左右。钟子伟指出，17直播成立Skyeye团队的起心动念，就是因为先前有一个直播主曾做出一些比较不雅的行为，且还跃上了新闻版面；而在当时发生新闻事件后，17直播第一时间就找人去建立了Skyeye团队。

「一开始的时候大家都不知道怎么去操作，起初都是用人力监控的方式处理。」钟子伟笑着说，到了2016年初时，技术团队才开始研讨是否能加入一些AI技术来加以协助，而当时已有一些国外的技术团队可作参考，因此就引用了一些国外的研究、数据来协助直播间内的监控。

不过，AI一开始的导入也不是那么地顺利。据了解，起初仅导入了相关的AI图谱，好让系统可以加以辨识直播主的行为是否越矩；而所谓的图谱，也仅是以「肉色」来作为判断依据，只要肉色在画面当中的比例超过60%，就会在团队端跳出警示，但是如此的方式很常会出现侦测错误的情况。

钟子伟举例，像是直播主的脸距离镜头太近，有可能会被系统判定肉色超过画面的60%，而在后端跳出警告；因此技术团队而后又在系统当中加入了「形状」的判定，且还会再搭配上人工判定的方式加以协作，以做出更正确行为判定。

而AI监控的也不仅有直播主的行为，也会进一步监控直播间内用户的留言判定；钟子伟指出，当用户在留言时举凡涉及恐怖、威胁、暴力、恶心等内容，都会被系统判定为违规。

为了打造出「绿色直播」，17直播给出的相关处罚也相当重；钟子伟说明，像是露点、露私下部位、性挑逗、性暗示、霸凌、吸毒、自杀等行为，为了不希望造成他人的模仿，这些行为都会被处以最严重的处罚，也就是直接被封锁，且不仅有封锁帐号，就连直播主原本用来直播的手机等装置也会被系统端锁定，无法再使用原有的手机来申请17直播的帐号。

而如果直播主在直播间做出抽烟、喝酒等行为，则是当下会被关播，且会收到系统警告，且如果连续三次犯规，屡劝不听者会被封锁帐号。

为了要让「直播」这件事更大众化、普遍化，钟子伟认为，最重要的就是要让直播平台整体事清新且干净的，如此一来才能吸引到更多素人愿意加入直播，并让这些直播主是以「才艺」的方式被外界所看见。