专栏首页机器学习与推荐算法ABPR: 利用对抗训练技术增强的BPR

ABPR: 利用对抗训练技术增强的BPR

前言

相信大家对于经典的成对学习(Pairwise Learning)方式的推荐模型BPR[1](Bayesian Personalized Recommendation)一定不会陌生,它的基本假设是用户产生行为的项目应该排在未产生行为项目的前面。后续有许多研究工作者对其进行了改进,比如提出结合社交信息的SBPR[2],结合视觉信息的VBPR[3],以及利用深度学习技术来处理视觉信息的DVBPR[4]。今天跟大家分享的论文是ABPR,即利用对抗训练技术增强模型泛化能力的BPR

动机

众所周知,计算机视觉领域的对抗样本(带有微小的、非随机的有意为之的扰动样本)可以使得模型以较高的置信度把样本分类错误[5]。比如下图,原本属于熊猫的样本,经过增加微小的扰动后以99%的置信度分类为了长臂猿。

那么,对于推荐系统领域来说,是否对抗性样本可以使得模型的推荐性能下降呢。作者通过对比试验给出了答案。由于计算机视觉领域中输入数据为图像,图像中每个元素都是连续的,而推荐系统领域中的输入为离散的用户/项目ID,添加扰动后很可能变成了其他用户或者项目,因此不能直接给输入数据添加扰动。作者在此通过给模型参数(即用户/项目的嵌入向量)添加扰动来进行实验

通过观察上图发现,添加对抗扰动的性能要比添加随机噪声的性能下降的快很多,这就从侧面放映了BPR模型的泛化性能弱,并且容易受到参数的对抗性干扰,也侧面揭示了使用BPR进行训练的弱点。

所提框架

最终把对抗扰动应用到BPR框架的示意图如下图所示,可见基本上和传统的BPR模型一致,只不过增加了对于用户/项目嵌入向量的对抗扰动,最终使得模型的泛化性能增强。

参考文献

[1]. Rendle et al. BPR: Bayesian personalized ranking from implicit feedback. UAI, 2012.

[2]. Zhao et al. Leveraging social connections to improve personalized ranking for collaborative filtering. CIKM, 2014.

[3]. He et al. VBPR: visual bayesian personalized ranking from implicit feedback,.AAAI, 2016.

[4]. Kang et al. Visually-aware fashion recommendation and design with generative image models. ICDM, 2017.

[5]. Goodfellow et al. Explaining and harnessing adversarial examples. ICLR, 2014.

本文分享自微信公众号 - 机器学习与推荐算法(ML_RSer),作者:张小磊

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-07-15

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 一文尽览推荐系统模型演变史

    4. 整理此文的目的是给大家一个清晰的脉络,可当作一篇小小综述。从信息过载概念的提出到推荐系统的起源,从前深度学习时代的推荐系统到劲头正热的深度推荐系统,再到最...

    张小磊
  • IJCAI'19最新推荐系统论文分享

    一年一度的AI盛会IJCAI将于2019年8月10日至16日在中国澳门举行,在此特整理关于推荐系统方向最新的论文列表,希望对大家有所帮助。通过整理论文列表发现:

    张小磊
  • RecSys2020推荐系统论文集锦

    第14届推荐人自己的年会RecSys已在9月22日到26日在线上举行。大会围绕着推荐系统相关问题进行了3场KeyNotes,5场Tutorials,接收了41篇...

    张小磊
  • 3分钟了解智慧零售,多项功能满足线上线下运营!

    2017年被称为“新零售元年”,电商与商店不再水火不容,而是联手做大全渠道零售这块蛋糕。2018年,智慧零售再次突破性发展,成为各大零售商发展的重点。

    场景录小程序
  • 3分钟了解智慧零售,多项功能满足线上线下运营!

    2017年被称为“新零售元年”,电商与商店不再水火不容,而是联手做大全渠道零售这块蛋糕。2018年,智慧零售再次突破性发展,成为各大零售商发展的重点。

    场景录小程序
  • MySQL 8.0与MariaDB 10.4,谁更易于填坑补锅?

    贺春旸,凡普金科DBA团队负责人,《MySQL管理之道:性能调优、高可用与监控》第一、二版作者,曾任职于中国移动飞信、安卓机锋网。致力于MariaDB、Mong...

    jeanron100
  • django中使用tinymce 富文本

    安装完成之后,就可以在D:\python\Lib\site-packages\django_tinymce-2.7.0-py3.6.egg这个文件夹。

    py3study
  • 深入理解 CPU 和异构计算芯片 GPU/FPGA/ASIC (下)

    深度学习在线预测、直播中的视频转码、图片压缩解压缩以及HTTPS加密等各类应用对计算的需求已远远超出了传统CPU处理器的能力所及。因此必须了解GPU等异构计算芯...

    王玉伟
  • 第41节:Java当中的类集框架

    类集框架是一组类和接口的集合,位于java.util包当中,是用来用户存储和管理对象的,在这个类集合框架中,我们主要学习的为三大类,分别是集合,列表和映射。

    达达前端
  • 认识多种处理芯片的特性和实战(下篇)

    CPU已经占有了桌面和服务器处理器的绝大部分份额,而且这个趋势还在不断增强,但是在某些领域,CPU存在天然的缺陷,以FPGA、GPU为代表的硬件可以克服CPU的...

    高剑林

扫码关注云+社区

领取腾讯云代金券