专栏首页机器学习炼丹术小白学推荐1 | 协同过滤 零基础到入门

小白学推荐1 | 协同过滤 零基础到入门

文章目录:
  • 1 基于用户user-based
    • 1.1 寻找偏好相似的用户
    • 1.2 皮尔逊相关度
    • 1.3 为相似的用户提供商品
    • 1.4 小结
  • 2 基于物品item-based
  • 3 协同算法的更多描述
  • 4 不同相似度计算的方法
    • 4.1 欧几里得距离
    • 4.2 Pearson-r系数
    • 4.3 向量余弦
    • 4.4 调整余弦
    • 4.5 总结与个人感悟
  • 5 预测用户打分
    • 5.1 加权求和平均

协同过滤推荐算法是诞生最早,最为基础的推荐算法。 算法通过对用户历史行为数据的挖掘发现用户的偏好,基于不同的偏好对用户进行群组划分并推荐品味相似的商品。

协同过滤算法分为两类:

  • 基于用户的协同过滤算法(user-based collaborative filtering)
  • 基于物品的协同过滤算法(item-based collaborative filtering)

其实我一开始对这个协同过滤 的概念不太了解,直到看了collaborative这个单词的释义,就是两个物体同时出现的频率。

1 基于用户user-based

基于用户的协同过滤算法是通过用户的历史行为数据 发现用户对商品或内容的喜欢,例如(商品的购买,收藏,内容评价或者分享内容等)。根据不同用户对相同商品或者内容的态度和偏好程度计算用户之间的关系。在有相同喜好的用户之间进行商品推荐。

换句话说 , 假如A和B用户都购买了同样的三本书,并且都给出了5星好评,那么就认为A和B是同一类用户。然后把A购买的另外一本书推荐给B。

1.1 寻找偏好相似的用户

现在考虑一种最简单的情况,5个用户都购买了两种商品,然后并对商品进行打分,如下图:

最简单的方法就是画图,加入用商品1的评分作为Y轴,商品2的评分作为X轴,那么就可以得到下面的散点图:

常见的想法可以用欧几里得距离来衡量用户之间的相似度。

1.2 皮尔逊相关度

  • Pearson correlation coefficient

除了用欧氏距离来衡量,皮尔逊相关度是另一种计算用户间关系的方法。现在考虑下面这一种更加复杂、也更加接近真实场景的数据:

其实呢?皮尔逊相关系数其实就是两个变量之间的协方差和标准差的比值:

再换一个写法,就是下面这个公式:

对于这个,并不陌生。皮尔逊相关系数在-1到1之间。0表示不相关,1表示极强正相关,-1表示极强负相关。

现在来简单计算一下上面例子中,用户A与用户B之间的皮尔逊相关系数。

\mu_A=(3.3+6.5+2.8+3.4+5.5)/5=4.3
\mu_B=(3.5+5.8+3.1+3.6+5.1)/5=4.22
\sum^n_{i=1}(X_i-\bar{X})(Y_i-\bar{Y})=7.49
\sum^n_{i=1}(X_i-\bar{X})^2=10.34
\sum^n_{i=1}(Y_i-\bar{Y})^2=5.428
r=\frac{7.49}{\sqrt{10.34}\sqrt{5.428}}=0.99978

剩下的Pearson相关系数如下:

1.3 为相似的用户提供商品

假设我们为用户C推荐商品,先检查相似度列表,发现用户C和D、E的pearson系数较高。所以认为这三个用户有相同的偏好,所以对C推荐D和E买过的商品。但是不能推荐商品1~5,因为这些用户C已经买过了。

现在我们找到了用户D和E买过的其他的商品A,B,C,D,E,F。然后让用户D和E与用户C的相似度作为权重 ,计算他们给这些商品打分的加权分数。然后给C按照加权分数从高到低进行推荐。

1.4 小结

已经讲完了基于用户的协同过滤算法。这个算法依靠用户的历史行为数据来计算相似度,所以是需要一定的数据积累 ,这其中涉及到冷启动问题。对于新网站或者数据量较少的网站,一般会采用基于物品的协同过滤方法

2 基于物品item-based

其实这个和基于用户的方法很想,就是把商品和用户互换。通过计算不同用户对不同物品的评分获得物品间的关系。然后根据物品间的关系对用户进行相似物品的推荐。

所以这里我们一开始的数据可以写成这个样子:

然后计算出物品之间的相关系数:

假设我们要给用户C推荐商品。

基于用户的算法中,我们的流程是:推荐给用户C->寻找与用户C相同爱好的用户->寻找这些用户购买的其他商品的加权打分。

现在基于物品的算法中,我们的流程是。发现用户C购买了商品4和5,找到同样购买了4和5商品的其他用户123.然后找到其他用户123购买的新商品A、B、C

计算得到商品4和5与新商品ABC之间的相关度。

然后进行加权打分排序。

3 协同算法的更多描述

  • 协同算法CF:Collaborative Filtering

如上图,协同算法中,左边的

m\times n

的矩阵中,m表示样本的数量,n表示商品的数量。矩阵的数值表示用户对某一个商品的喜好程度,分数越高表示越喜欢这个物品。0表示没有买过该商品。


【整个协同过滤包括两个过程】

  • 预测过程 :预测用户对没有购买过的商品的可能打分值;
  • 推荐过程 :根据预测阶段的姐u共推荐用户最可能喜欢的TopN个商品。

【User-based & Item-based】

User-based的基本思想就是用户A喜欢物品a,用户B喜欢物品abc,用户C喜欢物品ac,那么使用以相关系数为衡量的最近邻算法,可以把用户C当成用户A的最近的邻居,而从推荐给A商品c。

Item-based的基本思想是现根据历史数据计算物品之间的相似性,然后把用户喜欢的相类似的物品推荐给用户。因为我们知道喜欢a的用户也喜欢c,所以推断出物品a和c非常相似,这样可以给购买过商品a的用户推荐商品c。


【User-based缺陷】

  1. 数据稀疏性。一个商场中一般有非常多的物品,而一个用户可能只够买过其中的1个商品,这样的话不同用户之间的物品重叠性非常低,从而导致无法找到一个用户的邻居(因为这个用户与其他所有用户的距离都相等,想象一下one-hot编码)。
  2. 算法扩展性。最近邻算法的计算量会随着用户和物品数量的增加而增加,大数据的话浪费算力。
  3. 冷启动。一开始没有历史数据的话,无法使用这种方法进行推荐。

而Item-based的话,可以预先在线下先计算冲不同商品之间的相似度,然后把结果存在表中,推荐的时候直接查表。

4 不同相似度计算的方法

4.1 欧几里得距离

这个就是差值平方的和的开方。

4.2 Pearson-r系数

这个就是之前详细讲解的相关系数。

4.3 向量余弦

通过计算两个向量之间的夹角来计算物品的相似度。因为不同的用户可能有不同的性格,可能有一个人给什么东西打分都很高,另外一个人给什么东西打分都低,这样的话使用Pearson系数会判定这两个人偏好不同,而向量余弦会更加关注用户给不同商品打分的相对情况。

(PS:其中分子为两个向量的内积,即两个向量相同位置的数字相乘。)

4.4 调整余弦

余弦的优势在于关注相对打分,但是这也是他的缺点。女生相对于篮球,更喜欢足球一些。男生也是如此。难道我们能说男生女生的喜好一致吗?我们是不能推荐运动用品给这样的女生的。然而余弦相似度看不到这些,因为它只关注相对打分。

假设女生给篮球足球打分(1,2),男生打分(8,9)

【cosine】

\frac{1*8+2*9}{\sqrt{5}\sqrt{64+81}} \approx 0.9656

而Adjective Cosine是让数值减去物品打分的均值,让低于平均水平的打分变成负数。这下子向量的方向一下有一个巨大的改变。篮球的均分4.5,足球的均分5.5

【Adjecitve Cosine】

\frac{(1-4.5)*(8-5.5)+(2-4.5)*(9-5.5)}{\sqrt{(1-4.5)^2+(2-4.5)^2}\sqrt{(8-5.5)^2+(9-5.5)^2}} \approx -0.945

一下子就把差距体现出来了。

4.5 总结与个人感悟

可以看的出来,余弦相似度存在一定的问题,所以建议使用调整余弦相似度与Pearson

【Adjective Cosine VS Pearson】

  • Adjective Cosine中均值是所有用户对同一商品打分的均值;
  • Pearson中的均值是同一用户对所有商品打分的均值。

5 预测用户打分

之前提到了预测过程(预测用户给为打分的商品的打分情况。)

5.1 加权求和平均

对用户已经打分的物品的分数进行加权求和,而权值自然是各个物品与预测物品之间的相似度,然后再除以总权重值得和即可。

- END -

本文分享自微信公众号 - 机器学习炼丹术(liandanshu),作者:机器学习炼丹术

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-08-07

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 小白学PyTorch | 8 实战之MNIST小试牛刀

    在这个文章中,主要是来做一下MNIST手写数字集的分类任务。这是一个基础的、经典的分类任务。建议大家一定要跟着代码做一做,源码和数据已经上传到公众号。回复【py...

    机器学习炼丹术
  • AI面试题之线性回归与逻辑回归(似然参数估计)

    线性回归(Linear Regression)是什么想必不用多说了。格式是这个样子的:

    机器学习炼丹术
  • 【小白学优化】最小二乘法与岭回归&Lasso回归

    如果你刚某运动完,虚的很,这时候你的女朋友说:你这个有多长?然后你拿过来尺子想量一量。因为很虚,所以眼睛有点花,测量了五次有五个结果:18.1cm,17.9cm...

    机器学习炼丹术
  • 怎么挖掘用户真实需求

    在互联网行业流传着一句话“人人都是产品经理”,每个人都要具有产品思维。当每个人都来给你提需求的时候,该怎么确定哪些才是用户真实的需求呢?

    咻咻ing
  • 10亿用户,同时在线用户1亿数据服务技术方案

    具有唯一性,由用户在注册时由用户自己确定,如各类邮箱用户名; 或者由系统分配,如QQ号。

    一见
  • 深入浅出推荐系统之简单推荐模型

    Spark学习技巧
  • Security and Privacy on Blockchain

    Snow White是第一个被证明是安全的,稳定可重构的PoS协议,其涉众分布不断增加。该协议提出了一种保证安全的腐败延迟机制,即、在零星参与下的稳健性,以及在...

    安包
  • 2017国际体验设计大会 | 用研跨界

    导读:7月12-16日,2017年国际体验设计大会在北京国家会议中心举行,来自腾讯用户研究与体验设计部(简称:CDC)的负责人ENYA围绕 “ 用研跨界:线上融...

    腾讯技术工程官方号
  • 细说shiro之一:shiro简介

    一. Shiro是什么 Shiro是一个Java平台的开源权限框架,用于认证和访问授权。具体来说,满足对如下元素的支持:

    2Simple
  • Linux下配置Apache httpd

    Leshami

扫码关注云+社区

领取腾讯云代金券