作为一个炉石传说玩家,经常有事没事开着直播网站看看大神们的精彩表演。不过因为各个平台互相挖人的关系,导致关注的一些主播分散到了各个直播平台,来回切换有点麻烦,所以萌生了做一个视频聚合站的想法。
我主要去采集斗鱼、熊猫等的炉石区的主播信息。虽然各个站点的人气信息有水分,但还是做了个简单的排名。
上图:
手机上的效果图:
话不多说,上网站: http://lushiba.leanapp.cn/ 项目部输在了leancloud上,比较省心,但有一定的免费额度(如果显示超出限制,需要晚一些来访问,毕竟免费的,每天6个小时限制) 源码地址: https://github.com/ieiayaobb/… 欢迎Star
聚合站的思路就是采集目标站点的相关信息,通过数据处理将想要的信息做提取,整理入库,然后通过web展示。因为直播平台数据实时在变,所以考虑将存储的数据放在缓存中(redis),因为部署在了lean cloud上,所以示例就直接存储在了lean cloud的存储上。
为了方便讲解,我们以斗鱼为目标采集的网站,介绍解析和存储部分的内容,其他网站的处理大同小异。
整体项目就分为数据采集解析、数据存储、web展现三大功能。后续我们会对这三个部分的功能做逐一展开说明。
requests的介绍地址:http://docs.python-requests.o…
解析部分主要有两种:正则,BeautifulSoup 这里为了通用,直接使用了正则来解析。 正则处理要求比较高,但是几乎能应对所有的情况,属于大杀器。 BeautifulSoup4的详细介绍: https://www.crummy.com/softwa…
详细介绍在此:https://www.djangoproject.com/
详细的介绍在这里: https://leancloud.cn/docs/lea…
详细介绍在这里: https://purecss.io/
Python的开发环境网上比较多,主要是virtualenv的准备,可以看廖老师的博客了解具体信息: https://www.liaoxuefeng.com/w… requirments.txt内容如下:
#### 页面内容(单个主播的信息)
炉石传说
衣锦夜行 8.1万
我们需要采集的有几部分内容:
所有完整的直播站处理代码在fetch.py中 #### 命中主播信息节点
re.finditer('<a class="play-list-link" .*?>([\s\S]*?)<\/a>', response.content.decode('utf8')):
简单的说明一下代码:
response.content.decode('utf8')
采集href信息(主播房间链接)
href = re.search('href=".*?"', group).group().lstrip('href="').rstrip('"')
采集标题信息
title = re.search('title=".*?"', group).group().lstrip('title="').rstrip('"')
采集截图信息
img = re.search('data-original=".*?"', group).group().lstrip('data-original="').rstrip('"')
采集主播名称
name = re.search('<span class="dy-name ellipsis fl">.*?</span>', group).group().lstrip('<span class="dy-name ellipsis fl">').rstrip('</span>')
采集人气数量信息
num = re.search('<span class="dy-num fr.*?</span>', group).group().lstrip('<span class="dy-num fr">').rstrip('</span>')
处理‘万’字
int(round(float(num.replace('万', '').replace('\r', '').replace('\n', '')) * 10000))
采集到的信息需要存储到lean cloud的存储中,会调用lean cloud所提供的API
Chairman
Fetch的接口包含了清空、采集、解析、存储所有的更新逻辑,设计这个接口的目的主要是方便后面使用云函数进行定时调用,以更新数据,调用逻辑如下(lean cloud不支持全部遍历,所以用了while循环来遍历所有,先清空,再采集):
Django-rest-framework提供,可以通过分页的方式展现当前库中的信息
Django-rest-framework提供,可以根据指定id获取某一个主播的信息
lean cloud提供了一种云函数的概念,并且可以像配置cron一样,定期的去触发某一个请求,为了能够定期的更新排行榜,我们会通过配置这个云函数,实现定期的数据刷新 云函数是一个cloud.py文件,内容如下
在lean cloud中配置定时执行
页面部分比较简单,以一个列表的形式,展现了主播的排行榜信息,点击某一个主播,直接跳转到对应直播网站的目标直播间。因为考虑到在手机上的显示,所以做了自适应
列表页的渲染使用了Django的模板引擎 由于lean cloud的存储和Django的orm不一样,所以这里需要将attributes放到列表中,页面上才能用模板语法进行访问 view部分代码:
页面部分代码:
因为部署在了lean cloud上,可以直接使用提供的lean-cli进行部署, lean-cli的详细介绍在这里: https://www.leancloud.cn/docs…部署 这里为了方便直接在页面上进行配置
整个项目比较简单,目的是为了练手。如有疑问,欢迎在github上面发issue。
作者:伯乐在线 来源:http://python.jobbole.com/88188/