协同过滤?教你用Python实现协同过滤

提到ALS相信大家应该都不会觉得陌生,它是协同过滤的一种,并被集成到Spark的Mllib库中。本文就ALS的基本原理进行讲解,并手把手、肩并肩地带您实现这一算法。

完整实现代码请参考:

https://github.com/tushushu/imylu/blob/master/imylu/recommend/als.py

https://github.com/tushushu/imylu/blob/master/examples/als_example.py

1. 原理篇

我们用人话而不是大段的数学公式来讲讲ALS是怎么一回事。

1.1 你听说过推荐算法么

假如我是豆瓣的CEO,很多豆瓣的用户在豆瓣电影上都会对电影进行评分。那么根据这个评分数据,我们有可能知道这些用户除了自己评过分的电影之外还喜欢或讨厌哪些电影吗?这就是一个典型的推荐问题,解决这一类问题的算法被称为推荐算法。

1.2 什么是协同过滤

协同过滤的英文全称是Collaborative Filtering,简称CF。注意,这不是一款游戏!从字面上分析,协同就是寻找共同点,过滤就是筛选出优质的内容。

1.3 协同过滤的分类

一般来说,协同过滤推荐分为三种类型:

1. 基于用户(user-based)的协同过滤,通过计算用户和用户的相似度找到跟用户A相似的用户B, C, D…再把这些用户喜欢的内容推荐给A;

2.基于物品(item-based)的协同过滤,通过计算物品和物品的相似度找到跟物品1相似的物品2, 3, 4…再把这些物品推荐给看过物品1的用户们;

3. 基于模型(model based)的协同过滤。主流的方法可以分为:矩阵分解,关联算法,聚类算法,分类算法,回归算法,神经网络。

1.4 矩阵分解

矩阵分解 (decomposition, factorization)是将矩阵拆解为数个矩阵的乘积。比如豆瓣电影有m个用户,n个电影。那么用户对电影的评分可以形成一个m行n列的矩阵R,我们可以找到一个m行k列的矩阵U,和一个k行n列的矩阵I,通过U * I来得到矩阵R。

1.5 ALS

如果想通过矩阵分解的方法实现基于模型的协同过滤,ALS是一个不错的选择,其英文全称是Alternating Least Square,翻译过来是交替最小二乘法。假设用户为a,物品为b,评分矩阵为R(m, n),可分解为用户矩阵U(k, m)和物品矩阵I(k, n),其中m, n, k代表矩阵的维度。前方小段数学公式低能预警:

1.6 求解用户矩阵U和物品矩阵I

矩阵R是已知的,我们随机生成用户矩阵U, 1. 利用1.5中的式5、R和U求出I 2. 利用1.5中的式6、R和I求出U

如此交替地执行步骤1和步骤2,直到算法收敛或者迭代次数超过了最大限制,最终我们用RMSE来评价模型的好坏。

2. 实现篇

本人用全宇宙最简单的编程语言——Python实现了ALS算法,没有依赖任何第三方库,便于学习和使用。简单说明一下实现过程,更详细的注释请参考本人github上的代码。

注:代码中用到的Matrix类是我写的一个矩阵类,可以取出矩阵的行或列,计算矩阵的乘法、转置和逆。代码链接:matrix.py

2.1 创建ALS类

初始化,存储用户ID、物品ID、用户ID与用户矩阵列号的对应关系、物品ID与物品矩阵列号的对应关系、用户已经看过哪些物品、评分矩阵的Shape以及RMSE。

2.2 数据预处理

对训练数据进行处理,得到用户ID、物品ID、用户ID与用户矩阵列号的对应关系、物品ID与物品矩阵列号的对应关系、评分矩阵的Shape、评分矩阵及评分矩阵的转置。

2.3 用户矩阵乘以评分矩阵

实现稠密矩阵与稀疏矩阵的矩阵乘法,得到用户矩阵与评分矩阵的乘积。

2.4 物品矩阵乘以评分矩阵

实现稠密矩阵与稀疏矩阵的矩阵乘法,得到物品矩阵与评分矩阵的乘积。

2.5 生成随机矩阵

2.6 计算RMSE

2.7 训练模型

1.数据预处理

2.变量k合法性检查

3.生成随机矩阵U

4.交替计算矩阵U和矩阵I,并打印RMSE信息,直到迭代次数达到max_iter

5.保存最终的RMSE

2.8 预测一个用户

预测一个用户感兴趣的内容,剔除用户已看过的内容。然后按感兴趣分值排序,取出前n_items个内容。

2.9 预测多个用户

循环调用2.8,预测多个用户感兴趣的内容。

3 效果评估

3.1 main函数

使用电影评分数据集,训练模型并统计RMSE。

3.2 效果展示

设置k=3,迭代5次,并展示了前4个用户的推荐内容,最终RMSE为0.370,运行时间46.5秒,效果还算不错~

3.3 工具函数

本人自定义了一些工具函数,可以在github上查看

1.run_time - 测试函数运行时间

2.load_movie_ratings - 加载电影评分数据

总结

ALS的原理:鸡生蛋、蛋生鸡

ALS的实现:基本上就是矩阵乘法

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181226A1JA4B00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券