专栏首页腾讯大数据的专栏Angel推荐算法在游戏推荐中的应用

Angel推荐算法在游戏推荐中的应用

文章作者:王培军 腾讯 高级工程师

整理编辑:李沛欣

出品平台:DataFunTalk、AI启蒙者

导读:Angel是腾讯自研的分布式高性能的机器学习平台,支持机器学习、深度学习、图计算以及联邦学习等场景。Angel的深度学习平台已应用在腾讯的很多个场景中。本次分享为大家介绍Angel推荐算法在游戏推荐中的应用。主要内容包括:游戏平台上的游戏推荐、Tesla平台上的推荐算法、经典算法的线性特点、DeepFM算法的非线性特点、DeepFM应用过程。

01

游戏平台上的游戏推荐

这张图看到的是Steam平台上的一个游戏推荐的应用。Steam平台主要是使用标签的推荐方法,它的标签主要是基于用户选择去收集的信息。

Steam平台的特点在于游戏的内容比较多,深度也比较深一些。

如果item比较多,而且使用用户比较多,那就可以通过用户来选择一些标签,能够抽象出其实本来是需要协同过滤ALS的算法计算的因变量的特征向量。

也就是说,Steam是用人工选择的方式,用集体智慧的方式来抽象出特征向量。

这是Wegame平台上的一个活动。它的推荐算法并没有使用人工抽取标签的方式,而使用了CF算法,以及在用户行为数据的基础上使用Deep FM算法。

02

Tesla平台上的推荐算法

这个是特斯拉平台上的推荐算法。如果你要在外网试用,可以到下面的网址进行试用:

https://cloud.tencent.com

在试用的过程中,根据wiki文档生成相关的模型,定义相关的参数,就可以使用了。

特斯拉平台上也可以使用一些传统的算法,就像CF-ALS算法,可以把Rank、Lambda、Alpha这几个重要的参数,通过一个迭代的方式去选择合适的超参数,就可以使用了。

03

经典算法的线性特征

如果是基于内容的标签推荐,不用集体智慧的抽象,在很多情况下就是一个主观的先行判断。

另一种是协同过滤——或基于物品,或基于用户,或者是联合的协同过滤,会存在稀疏矩阵和长尾推荐的问题。

此时会出现一个问题:这是基于物品点击率比较高的协同过滤,但游戏大部分推荐的并不是都是热门物品。如果我们想在经典算法的基础上对一些点击比较少的物品进行推荐,也就是对这些长尾的物品进行推荐,如何去实现呢?

此时可以先做一个聚类,再应用一个协同过滤的算法。如果是经典的算法,有一个很大的核心的问题:怎么去结合用户画像,还有物品画像,参与到DeepFM的建立?

04

DeepFM的非线性特征

其实CF算法中输入的是Item Id和 User ID,但是Deep FM在输入UserID和Item Id之外,还可以输入用户或者物品特征。另外也可以对特征进行一个二次交叉:二次标签的特征组合,在本质上还是比较依赖于原来所采集的特征,而且特征组合也仅仅是二次的一个特征表达。

DeepFM的各种非线性特征,其实比较类似于CNN算法里面,在识别分类过程中所作的权重分解。上图是在CNN的过程中,做的一个热力图。其中CNN是对图像做了一个分类。这个分类依据,是Class之前所做的权重分布,从Deep FM的一部分的模型研发而来的一部分。

Deep FM模型的random部分有很多类别特征的。类别特征是用人工选择出来的categorical Features。而Deep FM在自动归类分群的过程中,有一个自动embedding 离散维度的推荐过程。一般我们可以根据误差的自动调整,来调整这个特征的维度组合。类似于推荐过程中自动聚类分群的过程,这就解决了传统算法的问题。如果只输入一个User ID或者是Item ID,就无法使用用户画像和物品画像,进行信息的分群,这样Deep FM就成为了一个可以根据误差进行自动调整,自动聚类分群的推荐工具。

05

DeepFM应用过程

在进行数据运营过程中,一般会使用到的工具是Vector assembler,将输入的字段组合成一个Vector,再对Vector进行标准化。

另一种情形则是在Deep FM的过程中进行编码,如果有单列的类别值,如何进行、转换成一个稀疏矩阵?一般来说可以使用手工编码,但这个方式比较低效。这时可以使用Feature Hasher,可以自动把几列类别值转换成一个技术矩阵,把稀疏矩阵和由连续值组成的vector和Hash feature组成vector,合成一个Vector,再把这个Vector作为一个Deep FM的输入,就可以比较方便进行数据计算了。

这里面有几个经验:

  • Validation AUC与点击率的对应关系:就是说在算法的训练的过程中,会输出一个Validation AUC,这个AUC很大情况下会和点击率有对应关系。在算法的模型训练过程中AUC比较低的话,点击率可能比较高,但是如果AUC比较高,其点击率一般情况下也比较高。
  • 特定场景下的target 数据产生的模型只能应用到特定场景下的点击率评估:你可能会需要使用到3个采集位置。这三个位置前面的Target数据就是用户在item下面点击数据,如果你运用3个模型,每一个模型应用在3个特定位置下,应该会得到一个更好的效果,而尽量不要把3个位置下的Target的数据合并为一个Target数据。因为这和Deep FM的特征的抽象能力相关,也就是说Deep FM有比较强的特征抽取能力,Target数据会反向传递到特征的采集过程中,会比较依赖于这个特征的场景。
  • Deep FM 的参数调整比较简单,因为一旦收敛,AUC 的提升跟训练数据集的大小最密切:因为增加更多的训练数据,AUC提升会比较明显一点。
  • 数据精排需要过滤已拥有,已玩过,并且根据业务需要重排数据,比如重点展示新游,热销等。
  • FM 需要输入 user_id 作为训练数据:Deep FM是从FM演化过来的,FM的训练和使用的过程中,一般会是要用User Id做一个输入,真正FM的User ID会在大数据情况下形成一个大的标签。
  • FM 的user_id 在大数据环境下会形成很大的标签数据,例如:如果有1000万用户,一台一个输入进去,在水平层这边特征就会比较大。
  • FM 的user_id 会形成冷启动的瓶颈,并且导致更新频率受到限制:传统的FM算法和CM算法,是一定要输入User ID的,那样就会产生一个冷启动的问题。也就是说,如果用户没有参与到每天的活动中,其实是没法在预测阶段做输入的。但是Deep FM则不同,如果对自己的特征比较自信,也就是说你的输入除了User ID之外,还有很多特征。因为Deep FM还会有比较强的特征抽取的能力,也就是自动特征组合能力。此时可以不输入User ID,只输入用户的特征或者是物品的特征,就会避免冷启动问题,而且更新频率会更快。
  • DeepFM 的特征输入可以替代user_id 的输入:比如在一个活动刚开始没多久,收集了一定数量的数据的情况下,特征是比较丰满的,就可以对用户和User ID,Item ID等没有接触到的数据进行一个预测。

最后感谢TEG的同学在tesla平台/智能钛平台上的辛勤工作,为业务提供了优秀的spark内存计算平台和前沿的机器学习算法!

以上就是今天的分享,谢谢大家。

嘉宾介绍:

王培军

腾讯 | 高级工程师

王培军,腾讯高级工程师,主要负责wegame平台的广告系统和深度学习与系统的结合探索。

扫码关注 | 即刻了解腾讯大数据技术动态

本文分享自微信公众号 - 腾讯大数据(tencentbigdata),作者:王培军

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2021-01-11

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Angel:深度学习在腾讯广告推荐系统中的实践

    导读:Angel是腾讯自研的分布式高性能的机器学习平台,支持机器学习、深度学习、图计算以及联邦学习等场景。Angel的深度学习平台已应用在腾讯的很多个场景中。...

    腾讯大数据
  • 推荐算法图推荐-基于随机游走的personalrank算法实现

    推荐算法图推荐 基于图的模型(graph-based model)是推荐系统中的重要内容。其实,很多研究人员把基于邻域的模型也称为基于图的模型,因为可以把基于邻...

    学到老
  • 智能推荐算法在直播场景中的应用

    信息过载: 信息过载是信息时代信息过于丰富的负面影响之一。指社会信息超过了个人或系统所能接受、处理或有效利用的范围,并导致故障的状况。人们接受了太多信息,却无法...

    张小磊
  • Angel图神经网络算法在推荐场景下的实践

    ? 分享嘉宾:孙瑞鸿 腾讯大数据 编辑整理:赵文娇 出品平台:DataFunTalk、AI启蒙者 导读:随着数据多样性的发展,图计算已经成为业界的一个重要的...

    腾讯大数据
  • AutoML 在推荐系统中的应用

    今天,推荐系统的模型和应用已经相当成熟,然而部署一套全新的推荐系统,甚至仅在已有系统上添加数据维度和模型优化依然是非常耗时耗力的事情。

    用户1737318
  • SVD在推荐系统中的应用

    参考自:http://www.igvita.com/2007/01/15/svd-recommendation-system-in-ruby/

    AIHGF
  • 常用推荐算法介绍——基于内容的推荐算法

    基于内容的过滤算法会推荐与用户最喜欢的物品类似的物品。但是,与协同过滤算法不同,这种算法是根据内容(比如标题、年份、描述),而不是人们使用物品的方式来总结其类似...

    京东技术
  • 腾讯大数据宣布推出第三代高性能计算平台Angel并于2017年全面开源

    12月18日,深圳 - 腾讯大数据宣布推出面向机器学习的第三代高性能计算平台——Angel,并预计于2017年一季度开放其源代码,鼓励业界工程师、学者和技术人员...

    腾讯高校合作
  • 腾讯大数据推出第三代高性能计算平台 Angel,2017年全面开源

    【新智元导读】12月18日腾讯大数据宣布推出面向机器学习的第三代高性能计算平台——Angel,并预计于2017年一季度开放其源代码。腾讯首席执行官马化腾在朋友圈...

    新智元

扫码关注云+社区

领取腾讯云代金券