推荐算法(一)——音乐歌单智能推荐

题记:推荐引擎根据的分类根据数据源,分为基于人口统计学的(用户年龄或性别相同判定为相似用户)、基于内容的(物品具有相同关键词和Tag,没有考虑人为因素),以及基于协同过滤的推荐(发现物品,内容或用户的相关性推荐,分为三个子类,下文阐述);        根据其建立方式,分为基于物品和用户本身的(用户-物品二维矩阵描述用户喜好,聚类算法)、基于关联规则的(The Apriori algorithm算法是一种最有影响的挖掘布尔关联规则频繁项集的算法)、以及基于模型的推荐(机器学习,所谓机器学习,即让计算机像人脑一样持续学习,是人工智能领域内的一个子领域)。

推荐算法: 潜在因子(Latent Factor)算法。 应用领域:“网易云音乐歌单个性化推荐”、“豆瓣电台音乐推荐”等。 关键因素: 评分矩阵的UV分解的理解。

算法思想:        每个用户(user)都有自己的偏好,比如A喜欢带有小清新的、吉他伴奏的、王菲等元素(latent factor),如果一首歌(item)带有这些元素,那么就将这首歌推荐给该用户,也就是用元素去连接用户和音乐。每个人对不同的元素偏好不同,而每首歌包含的元素也不一样。我们希望能找到这样两个矩阵:

     实际上你可以理解为latent factor是对用户属性和音乐属性的双重降维(相当于把高维的用户\音乐属性降维到一个k维的隐空间进行表达),将用户属性\音乐属性都使用一个k维的向量表示,最终预测出某一用户对某一音乐的评分即为这两个向量的内积。 一,,表示不同的用户对于不用元素的偏好程度,1代表很喜欢,0代表不喜欢。比如下面这样:

二,潜在因子-音乐矩阵P,表示每种音乐含有各种元素的成分,比如下表中,音乐A是一个偏小清新的音乐,含有小清新这个Latent Factor的成分是0.9,重口味的成分是0.1,优雅的成分是0.2……

       利用这两个矩阵,我们能得出张三对音乐A的喜欢程度是:张三对小清新的偏好音乐A含有小清新的成分+对重口味的偏好音乐A含有重口味的成分+对优雅的偏好*音乐A含有优雅的成分+……

       即:0.6*0.9+0.8*0.1+0.1*0.2+0.1*0.4+0.7*0=0.69        每个用户对每首歌都这样计算可以得到不同用户对不同歌曲的评分矩阵。(注,这里的破浪线表示的是估计的评分,接下来我们还会用到不带波浪线的R表示实际的评分):

     因此我们队张三推荐四首歌中得分最高的B,对李四推荐得分最高的C,王五推荐B。 如果用矩阵表示即为:

       下面问题来了,这个潜在因子(latent factor)是怎么得到的呢?     由于面对海量的让用户自己给音乐分类并告诉我们自己的偏好系数显然是不现实的,事实上我们能获得的数据只有用户行为数据。我们沿用的量化标准:单曲循环=5, 分享=4, 收藏=3, 主动播放=2 , 听完=1, 跳过=-2 , 拉黑=-5,在分析时能获得的实际评分矩阵R,也就是输入矩阵大概是这个样子:

    事实上这是个非常非常稀疏的矩阵,因为大部分用户只听过全部音乐中很少一部分。如何利用这个矩阵去找潜在因子呢?这里主要应用到的是矩阵的UV分解。也就是将上面的评分矩阵分解为两个低维度的矩阵,用Q和P两个矩阵的乘积去估计实际的评分矩阵,而且我们希望估计的评分矩阵

       对于一个大型的评分矩阵X(m*n,m为用户数,n为音乐数量,矩阵中每一项便是这一用户对这一音乐的评分,显然这会是一个非常稀疏的矩阵),我们希望由这一评分矩阵得到两个分解后的矩阵U(m*k,用户属性在隐空间内的表示)与V(n*k,音乐属性在隐空间内的表示),使得U乘以transpose(V)能够尽可能地逼近矩阵X,即由抽取的用户属性\音乐属性,我们可以“尽可能地还原出”原本输入的大型评分矩阵X——这一分解便被称为”UV分解”。        和实际的评分矩阵不要相差太多,也就是求解下面的目标函数:

       这里涉及到最优化理论,在实际应用中,往往还要在后面加上2范数的罚项,然后利用梯度下降法就可以求得这P,Q两个矩阵的估计值。这里我们就不展开说了。例如我们上面给出的那个例子可以分解成为这样两个矩阵:

       这两个矩阵相乘就可以得到估计的得分矩阵:

       将用户已经听过的音乐剔除后,选择分数最高音乐的推荐给用户即可(红体字)。

参考文献http://www.zhihu.com/question/26743347/answer/34714804

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI研习社

2018 Data Science Bowl 第一名方案新鲜出炉,鉴定细胞核新技能 get

雷锋网 AI 研习社按:最近一段时间以来,医学影像作为人工智能重要的应用领域,受到学界和越来越多 AI 公司的关注。Nature、Science、Cell 上频...

832
来自专栏AI传送门

股票预测,自动翻译,你想要的它都能做——RNN算法探索之旅(1)

1236
来自专栏大数据挖掘DT机器学习

如何利用数据做排行榜?

8月15日上海交通大学世界一流大学研究中心发布2015年“世界大学学术排名”。今年,哈佛大学蝉联榜首,剑桥大学排名第2,第3-5名依次是牛津大学、麻省理工学...

3174
来自专栏机器之心

前沿 | 将逆向课程生成用于强化学习:伯克利新研究让智能体掌握全新任务

35010
来自专栏PPV课数据科学社区

“数学之美”系列七:信息论在信息处理中的应用

我们已经介绍了信息熵,它是信息论的基础,我们这次谈谈信息论在自然语言处理中的应用。 先看看信息熵和语言模型的关系。我们在系列一中谈到语言模型时,没有讲如何定量地...

3479
来自专栏机器之心

百度NLP | 神经网络语义匹配技术

百度NLP专栏 作者:百度NLP 一、序言 文本匹配是自然语言处理中一个重要的基础问题,自然语言处理中的许多任务都可以抽象为文本匹配任务。例如网页搜索可抽象为网...

4097
来自专栏AI科技大本营的专栏

刚毕业就能拿到56万年薪?对!看看Twitter机器学习大牛写给你的进阶手册吧

年薪十万?对于程序员来说,这仅仅是温饱水平。 根据国家统计局今年上半年发布的消息,2016 年信息传输、软件和信息技术服务业的平均工资为 122478 元,首次...

3637
来自专栏大数据挖掘DT机器学习

如何利用数据做排行榜?

8月15日上海交通大学世界一流大学研究中心发布2015年“世界大学学术排名”。今年,哈佛大学蝉联榜首,剑桥大学排名第2,第3-5名依次是牛津大学、...

3587
来自专栏人工智能头条

利用机器学习进行恶意代码分类

1794
来自专栏开源FPGA

基于FPGA的彩色图像转灰度算法实现

  昨天才更新了两篇博客,今天又要更新了,并不是我垃圾产,只不过这些在上个月就已经写好了,只是因为比赛忙,一直腾不出时间整理出来发表而已,但是做完一件事情总感觉...

2429

扫码关注云+社区