环宇互娱科技：端到端加密环境下的内容审核技术（1）

到目前为止，被广泛采用的E2EE环境下的内容审核技术主要有：用户举报、可追踪技术、元数据分析、感知哈希算法、内容预测模型。

1.用户举报（User Reporting）

用户举报功能不仅仅在E2EE环境下会被采用，实际上在各种传统的即时通讯和社交媒体网络中，用户举报功能都有很好地体现。用户举报功能一方面依赖于群体的力量，比如在一些社交媒体类的应用中（如：新浪微博）对于能够看到的内容，用户可以对一些违反社区规定的发文进行举报，提升用户的内容审核参与感；另一方面依赖于消息接收方的积极响应或维权（如：微信），在一些即时通讯的应用中，接收者对消息发起举报。平台接收到举报后，可以进一步地对消息进行处理。

不过需要说明的是，在E2EE环境下，针对举报内容的审核并不是完全的明文审核，为了尽可能地保护发送者和接收者的隐私，内容审核遵循Message Franking模式，即对被举报内容进行元数据隐藏处理或仅显示部分内容。

2.可追踪技术（Traceability）

追踪技术的引入主要是为了满足违规消息的溯源需求，为了能够打击违法犯罪分子或惩戒发布违规内容的用户，需要能够追踪到消息的源头发送者。然而在E2EE环境下消息或许是匿名发送，则不能直接追踪到源发送者。

目前存在两种方案可供选择：

A) 在每一个消息的元数据方面增加源发送者的加密后的身份标识信息。

B) 一旦违规消息的摘要确定，那么通过消息摘要数据库则可以找到消息的源发送者。

3.元数据分析（Metadata Analysis）

在内容审核范围内的元数据分析一般是指针对发送消息的元数据分析，主要包括对消息的发送时间、发送对象、发送者、发送频率等相关数据进行分析，分析过程中还会结合机器学习等人工智能模型。

近几年，基于机器学习的元数据分析在内容审核方面大放异彩，在2021年，WhatsApp厂商在其用户设备上的客户端内就集成了机器学习框架用于元数据分析，通过该方案，WhatsApp声称封锁了约30万个涉嫌传播CSAM（儿童性虐待内容）的账号。可以看出元数据分析一般都是在用户设备的客户端上进行的，通常来说，只要元数据分析是发生在用户设备上并且只要在分析过程中不存储、使用和发送未加密的消息，则认为是保证了用户的个人隐私的。

以上是关于在端到端加密环境下的3种内容审核技术，大家都了解了吗，除此之外，还有另外2种内容审核技术，我们下期见。