前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >CVR预估模型ESMM

CVR预估模型ESMM

原创
作者头像
felixzhao
修改2023-01-12 18:13:57
1.4K0
修改2023-01-12 18:13:57
举报
文章被收录于专栏:null的专栏null的专栏

1. 概述

一般在对CVR建模的过程中,正样本选择的是在点击后有转化的样本作为正样本,负样本则是在点击后没有转化的样本作为负样本。然而,这样的建模方式存在一定的问题:

  • Sample Selection Bias(SSB)问题,即样本选择有偏。在training和inference阶段面对的样本空间不一致,在training阶段,选择的样本都是点击后的样本,而在inference阶段,面对的是所有的可能曝光的样本;
  • Data Sparsity (DS)问题,即样本稀疏。点击的样本只是占了曝光样本的很小的一部分,如下图所示:

为了解决以上的这些问题,阿里在2018年提出了ESMM(Entire space multi-task model)1模型,从名称来看,CVR的建模也是在全空间上的,同时这是一个基于多任务建模的模型。

2. 算法原理

2.1. CVR建模

一条样本的整个过程包括了“曝光->点击->转化”,这是一个顺序的过程。假设\mathbf{x} 表示的是一条曝光样本,y\in \left\{ 0,1\right\} 表示的是该曝光样本是否被点击,z\in \left\{ 0,1\right\} 表示的是该样本在曝光点击后是否有转化,对CVR建模是预估转化率:pCVR=p\left ( z=1\mid y=1,\mathbf{x} \right ) ,与之相关的两个概率是点击率(CTR):pCTR=p\left ( y=1\mid \mathbf{x} \right ) 和点击转化率(CTCVR):pCTCVR=p\left ( y=1,z=1\mid \mathbf{x} \right ) ,这三者之间的关系为:

\begin{matrix} \underbrace{p\left ( y=1,z=1\mid \mathbf{x} \right )} & = & \underbrace{p\left ( y=1\mid \mathbf{x} \right )} & \times & \underbrace{p\left ( z=1\mid y=1,\mathbf{x} \right )} \\pCTCVR & & pCTR & & pCVR\\\end{matrix}

因此,在单独对CVR建模的过程中,需要选择的样本空间是在所有点击样本中,即上述过程的“点击->转化”阶段,如果存在转化,则在CVR中为正样本z=1 ,否则为负样本z=0 。反观CTR建模的过程,选择的样本空间在上述过程的“曝光->点击”阶段。

而在inference阶段,所需面对的样本是所有可能曝光的样本。基于以上的公式,对于CTCVR的建模,选择的样本空间则是上述过程的融合,即“曝光->转化”。对上述公式进行简单的变换,得到如下的公式:

p\left ( z=1\mid y=1,\mathbf{x} \right )=\frac{p\left ( y=1,z=1\mid \mathbf{x} \right )}{p\left ( y=1\mid \mathbf{x} \right )}

这样就能直接利用“曝光”样本空间中的样本直接对CVR建模,不过在对CVR建模的过程中需要同时对CTR以及CTCVR建模。

2.2. ESMM模型结构

基于以上的分析,在ESMM模型的建模过程中引入两个辅助任务,即:CTR建模和CTCVR建模,ESMM的网络结构如下图所示:

在ESMM模型结构中,有两个特点:

第一,在ESMM结构中包含了两个塔,如上图所示,左侧是一个CVR任务的塔,右侧是一个CTR任务的塔,两个塔可以构建两个任务,分别为pCTR和pCTCVR,这样样本分别是从“曝光->点击”和“曝光->转化”,解决了样本空间的问题,通过模型中参数的学习,可以把CVR塔中的参数学习到,这样对于CVR塔的样本空间即为“曝光->转化”。

第二,在两个塔的底层Embedding层是参数共享的,这样能充分利用CTR任务重的样本,缓解传统的CVR建模过程中面临的数据稀疏问题。

2.3. 损失函数

因为在ESMM中存在两个学习任务,分别为CTR和CTCVR,则最终的损失函数为:

\begin{align*}L\left ( \theta _{cvr},\theta _{ctr} \right ) &= \sum_{i=1}^{N}l\left ( y_i,f\left ( \mathbf{x}_i;\theta _{ctr} \right ) \right )\\ &+ \sum_{i=1}^{N}l\left ( y_i\&z_i,f\left ( \mathbf{x}_i;\theta _{ctr} \right )\times f\left ( \mathbf{x}_i;\theta _{cvr} \right ) \right )\end{align*}

其中,\theta _{cvr} 表示的是CVR塔中的参数,\theta _{ctr} 表示的是CTR塔中的参数,y_i 表示的是样本\mathbf{x}_i 在CTR任务上的label,z_i 表示的是样本\mathbf{x}_i 在CVR任务上的label,f\left ( \mathbf{x}_i;\theta _{ctr} \right ) 表示的样本\mathbf{x}_i 在CTR塔中的结果,f\left ( \mathbf{x}_i;\theta _{cvr} \right ) 表示的是样本\mathbf{x}_i 在CVR塔中的结果。

2.4. 代码结构

在参考2中有具体的ESMM的实现,以该代码为例,ESMM结构的代码如下:

3. 总结

在ESMM网络中,通过引入两个辅助任务CTR和CTCVR,由于这两个任务的输入空间都变成了“曝光”,从而解决了传统CVR建模中在training和inference两个过程中输入空间不一致的问题,另一个方面,因为“曝光->点击”阶段的样本量要比“点击->转化”阶段的样本量要大,鉴于Embedding层参数的共享,因此,能够充分学习到Embedding层的参数。

参考文献

1 Ma X, Zhao L, Huang G, et al. Entire space multi-task model: An effective approach for estimating post-click conversion rateC//The 41st International ACM SIGIR Conference on Research & Development in Information Retrieval. 2018: 1137-1140.

2(https://github.com/shenweichen/DeepCTR/blob/master/deepctr/models/multitask/esmm.py)

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 1. 概述
  • 2. 算法原理
    • 2.1. CVR建模
      • 2.2. ESMM模型结构
        • 2.3. 损失函数
          • 2.4. 代码结构
          • 3. 总结
          • 参考文献
          领券
          问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档