面向科研的推荐系统Benchmark诞生！

嘿，记得给“机器学习与推荐算法”添加星标

今天跟大家分享的是一篇发表在RecSys2020推荐系统年会上的关于推荐系统Benchmark的文章。你是否还记得关于MLP or IP：推荐模型到底用哪个更好？问题的激烈讨论，又或你是否还记得关于评论文本信息对推荐真的有用吗？问题的深入分析，再者你是否还记得知乎上关于深度学习对于推荐系统性能带来的都是伪提升问题的广泛质疑[1]，这些问题之所以会存在的原因是：没有统一的标准，包括数据集的划分方式、统一的评价指标，相同的实验设置等。因此今天的这篇文章算是在这方面的一个进步。

论文地址：

https://dl.acm.org/doi/pdf/10.1145/3383313.3412489

动机:

推荐系统目前缺少一个基线标准用于任务评价。所以引发两个问题：模型的可复现性以及模型之间的公平对比，因此，本文针对隐式反馈Top-N推荐问题提出一种benchmark。

简介:

该文首先系统地回顾了85篇推荐论文，包括论文接收的年份和会议分布、常用的推荐系统数据集分布、所对比的基线模型的分布以及评价指标分布等。

另外还总结出一些在对于模型评价具有重要影响的实验设置因素：数据处理，数据分割，超参数选择、负采样选择以及损失函数选择等。

最后通过大量的实验说明这些实验设置给模型的表现带来的影响。接着提出benchmarks需要满足的一些条件，并基于此选择一些代表性的模型进行实验。除此之外，还发布了基于python的代码库。以下为该开源代码库的架构图，包括数据集的加载方式、预处理方式、对比方法选择等组件。

内含常用的基线和SOTA对比方法：

内含常用的数据集下载链接：

仓库地址：

https://github.com/AmazingDD/daisyRec

希望未来的推荐算法能够良性对比，公平竞争。