虎扑分享：NLP算法有效提升风险内容识别效果，降本提效|虎博思享会
原创虎扑分享：NLP算法有效提升风险内容识别效果，降本提效|虎博思享会
原创
近日，以《新技术，助力“清朗”、“净网”行动》为主题的虎博思享会，于虎博科技总部举办。活动汇聚了来自上海市信息安全测评认证中心、虎扑社区、宽带山社区、樊登读书的内容安全专家、负责人，共同围绕技术与内容生态的平衡进行探索。
众所周知，内容安全已被置于前所未有的重要位置，近期关于“饭圈”、未成年保护、金融黑嘴、网络黑公关等内容被特别关注并整治，网络内容生态治理已然成为现阶段各大平台的主要核心工作。
在本次虎博内容安全主题思享会中，来自虎扑社区的技术总监郑中业，结合在虎扑多年从事内容生态工作的经验，就虎扑在内容生态治理上的发展历程、技术投入、审核流程，以及与虎博合作后取得的效果等方面做了精彩的干货分享。
演讲分享·keymessage
01|足球点阵式体系
虎扑的内容生态体系好比一个足球队，巡查、人审、机审构成后卫、中场与前锋，而模型作为技术基础承载了重要作用
02|“好人卡”提效降本
对用户进行精准画像，“区别对待”高危和“好人卡”用户，优化审核效率同时，降低成本
03|审核“黑盒子”
巡查环节将审核流程当做“黑盒子”，去评估审核质量、流程漏洞和安全漏放等问题，从而完善审核机制
04|“投毒”测试
对问题内容进行“投毒”模拟测试，提升审核的感知度和敏感度
05|小提升，大进步
与虎博合作至今，准确率与召回率每一个百分点的提升，都是内容生态治理的一大步
06|AI识别风险
通过模型训练、特征汲取，从语义理解、上下文感知上识别更多风险内容
原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。
如有侵权，请联系 cloudcommunity@tencent.com 删除。
原创声明：本文系作者授权腾讯云开发者社区发表，未经许可，不得转载。
如有侵权，请联系 cloudcommunity@tencent.com 删除。