微信公众号广告点击率预估效果优化

1.背景点击率预估(pCTR)是广告投放过程中的一个重要环节,精准的点击率预估对于广告投放系统收益最大化具有重要意义。pCTR的优化主要有算法优化,系统改进,特征探索等几种途径。2015年下半年微信公众号位置,在引入了多种新特征,优化已有特征的准确度和覆盖率,并使用深度学习的算法框架后,效果取得了明显提升。A/B test结果显示,2015下半年微信公众号位置,CTR+ECPM有12%以上的提升。在此将最近微信公众号pCTR特征优化的一些经历和想法记录下来,欢迎大家讨论。

2.特征探索篇

一般而言,广告推荐场景中的特征包括:用户侧特征(包括用户的年龄、性别、地域等),广告侧特征(广告所属的类别等),广告位侧特征(广告位上下文等)。2015年下半年在微信公众号位置,做了较多特征方面的尝试,其中包括引入微信商业兴趣、基于主题模型的订阅兴趣、提高了反馈特征和用户画像的准确度和覆盖率等,这些尝试都取得了较明显的效果。本节先简要叙述实验前的特征选择和实验后的效果分析的一般方法,再以基于主题模型的订阅兴趣特征和广告文本相关性特征为例,列举说明2015下半年公众号位置的两个重要特征的构建。

2.1 特征的选择方法

特征选择按照先计算信息增益,再计算离线AUC,并综合[1][2]所列的特征选择方法,选出有效特征加入模型进行实验。特征选择遵循先粗选再细选的方法。

信息增益:信息增益反应的是特征对点击行为的区分度,计算公式为:

H(y)表示目标y的信息熵,H(y|f)表示引入了特征f后的信息熵通过计算特征f的IG(即信息熵的增加量)来判断对点击率的区分性,从而确定是否加入点击率预估模型当中去。信息增益存在的一个问题是无法体现对广告的区分性,这里我们使用了二阶信息增益:设?为某特征,ad为某广告,y为目标值(y=-1,1)即代表用户点击或者不点击广告。

此处IG可理解为针对某确定的广告,某特征的信息增益。也即将广告出现的概率作为先验信息引入,计算某特征区分广告的信息增益。引入先验信息后,针对某广告的点击行为的后验概率计算如下:

前向特征选择:关于前向特征选择,已经文章进行了专门的详细论述[2],在此不展开介绍。我们在使用该方法时,是在原有特征集合的基础上从候选特征集合中逐步挑选特征添加入当前模型。

2.2特征效果的分析

特征实验A/B test一般会进行一周左右的时间,将实验时间窗口调为一周是因为一周之内不同天用户的行为可能有变化。积累到一周数据后,对实验效果进行分析,找出实验效果有提升或者无提升甚至变差的原因,为以后的优化做准备。以用户特征为例,在上线用户侧特征之后,我们将会着重观察在新特征划分的各个用户群体上订单投放情况的变化。以用户兴趣为例,该兴趣将用户分为了“汽车”、“服饰”、“数码产品”等近百个用户群体,pCTR模型在加入这个特征之后,在“服饰”兴趣群体上投放出了更多的女装订单,从而使得这个人群的CTR有较大提高,如图2所示。

图 2 加入了用户兴趣之后A/B test中“服饰”人群上的top订单有比较大的变化,实验组的top1“女装丝袜”在对照组没有进top10。其余几个女装订单在实验组的曝光也高于对照组。136是实验算法,137是对照算法。

2.3基于主题模型的用户订阅兴趣

用户在点击、阅读、转发微信公众号图文信息的行为隐含着大量的信息,能够反映出用户的兴趣,挖掘出这些隐含信息,构建出一套适用于广告投放的兴趣体系对于推荐算法无疑是十分有利的。

图 3 基于主题模型的公众号聚类兴趣标签的产生方式示意图,公众号的聚类主要由订阅关系来产生

我们尝试了一种新的订阅兴趣体系的方法:基于主题模型的兴趣人群挖掘方法。对于N个用户订阅M个公众号的场景,我们采用类似LDA的方法,从中抽取出k个隐含的订阅兴趣。其效果如图3所示,对于一个N*M的user-item矩阵,有相似粉丝用户(user)的公众号(相当于item)会归为相似的topic,订阅了属于某类topic公众号的用户会被赋予相应的兴趣权重(图3中省略了权重部分)。A/B test结果显示,这种主题模型的兴趣挖掘方法在广告推荐场景比较有效。

2.4广告与文章内容的相似度

由于微信公众号位置的流量媒体的特殊性,微信公众号广告位有丰富的媒体信息。同时广告内容也有文本描述信息。广告与文章的上下文内容相关一方面能提高用户的阅读体验,另一方面对用户是否点击广告也有较大的影响[3]。我们尝试将公众号推送文章与广告内容的相似度作为特征加入pCTR模型,以期能取得提高用户体验和投放效果的作用,如图4。

图 4 广告与文章内容相似度加入pCTR模型提高投放效果和阅读体验

3.算法优化篇CMU的李沐在2014年的博文中提到,“线性模型+特征工程”的机器学习方法,随着数据量的增长和特征的不断挖掘会面临瓶颈的到来[4]。大数据时代,我们需要更好的自动学习的算法。深度学习算法,能更好地抽取特征中的信息,更好的发挥特征的作用。在探索特征的同时,我们也在向复杂的非线性模型转向。深度学习是我们尝试的方向之一。DNN(深度神经网络)有多种开源工具 [5-6],在此不再叙述DNN的原理与实现。在微信公众号位置,DNN算法能较好的实现特征数据的端到端学习,一定程度上减低了特征选择的工作量。4.系统架构篇

全流程实时计算,是承载算法和数据的框架。框架的优化以及重构,虽然不能直接带来效果提升,但是更加可靠的系统和框架使得算法运行更加稳定更加易于维护。目前我们承载推荐系统的系统架构如图5。

5.总结展望篇目前微信公众号位置的效果优化方向的选择依然较多,特征方面,除了继续进一步精细化用分群特征,挖掘特殊人群,探索上下文特征外,还可以尝试GBDT+LR[1],GLASSO(Group LASSO)[7]等方法进行自动化的特征选择;算法方面,DNN算法仍有很多可挖掘和优化的地方,通过进一步优化参数和挖掘并行计算潜力,有望进一步提升效果;系统方面,框架的稳定性和可靠性的提高将有利于更多算法思想的落地实现。

参考文献

[1] CTR预估中GBDT与LR融合方案,腾讯大数据,2015-08-27

[2]Singh S, Kubica J, Larsen S, et al. Parallel Large ScaleFeature Selection for Logistic Regression[C]//SDM. 2009: 1172-1183.

[3] 《计算广告学》,http://study.163.com/course/introduction.htm?courseId=321007#/courseDetail

[4] 大数据:“人工特征工程+线性模型”的尽头, http://www.36dsj.com/archives/15621

[5] http://torch.ch/

[6] http://caffe.berkeleyvision.org

[7] A note on the group lasso and a sparse group Lasso, http://statweb.stanford.edu/~tibs/ftp/sparse-grlasso.pdf

原文发布于微信公众号 - 腾讯大数据(tencentbigdata)

原文发表时间:2016-02-29

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

GMIS 2017 | 第四范式首席研究科学家陈雨强:机器学习模型,宽与深的大战

机器之心原创 机器之心编辑部 5 月 27 日,机器之心主办的为期两天的全球机器智能峰会(GMIS 2017)在北京 898 创新空间顺利开幕。中国科学院自动化...

3406
来自专栏ATYUN订阅号

【游戏】国外大神建立了一个深度神经网络来玩足球游戏FIFA 18

游戏中的人工智能机器人通常是通过手动编码来构建一系列游戏智能的规则。在很大程度上,这种方法在使机器人模仿人类行为方面做得更好。然而,对于大多数游戏来说,究竟是机...

38110
来自专栏机器学习算法与Python学习

机器学习(36)之协同过滤典型算法概述【精华】

关键字全网搜索最新排名 【机器学习算法】:排名第一 【机器学习】:排名第一 【Python】:排名第三 【算法】:排名第四 前言 推荐算法具有非常多的应用场景和...

4866
来自专栏机器之心

业界 | 44篇论文强势进击CVPR 2018,商汤科技的研究员都在做哪些研究?

自 2012 年以来,经过视觉领域诸多学者们的不懈努力,「物体识别」、「人脸检测」等传统任务的性能在一定程度上达到饱和,因此纵观本届 979 篇入选论文,我们会...

1183
来自专栏企鹅号快讯

易忽略的强化学习知识之基础知识及MDP

推荐阅读时间:8min~12min 主要内容:容易忽略的强化学习知识之基础知识及MDP 由于我对RL的期望挺大,很看好它的前景,故之后应该会写下一个系列的强化学...

2388
来自专栏AI研习社

“回归分析”真的算是“机器学习”吗?

是什么将“统计”从“机器学习”中分离出来的? 这是一个被讨论过无数次的问题。关于这个问题的文章有很多,人们对其好坏莫衷一是。但是我发现,在“统计”和“机器学习”...

3734
来自专栏新智元

Google | 机器学习小白教程

对机器如何自学感到很困惑?这里提供对机器学习的综述以供参考。 最近谷歌的深度学习第二代引擎“TensorFlow”引来众人的关注,但也引来了关于人工智能领域的...

3957
来自专栏新智元

【重磅】DeepMind发布最佳语音神经网络生成模型,与人类差距缩减50%以上

【新智元导读】本文介绍的是WaveNet——一个原始音频波形深度模型。我们展示了,Wavenet能够生成模仿人类的语音,听起来要比现有最好的文本到语音转化系统更...

3185
来自专栏机器学习算法原理与实践

协同过滤推荐算法总结

    推荐算法具有非常多的应用场景和商业价值,因此对推荐算法值得好好研究。推荐算法种类很多,但是目前应用最广泛的应该是协同过滤类别的推荐算法,本文就对协同过滤...

2052
来自专栏AI科技评论

业界 | 百度引入Ring Allreduce算法,大规模提升模型训练速度

AI科技评论消息,美国西部时间2月21日,百度硅谷人工智能实验室(SVAIL)宣布将Ring Allreduce算法引进深度学习领域,这让基于GPU训练的神经网...

41112

扫码关注云+社区

领取腾讯云代金券