前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >【爬虫】新浪微博爬虫——环境部署

【爬虫】新浪微博爬虫——环境部署

作者头像
天道Vax的时间宝藏
发布2021-12-02 13:40:27
2780
发布2021-12-02 13:40:27
举报

1.先安装Python环境,作者是Python 2.7.8 2.再安装PIP或者easy_install 3.通过命令pip install selenium安装selenium,它是自动测试、爬虫的工具 4.然后修改代码中的用户名和密码,填写你自己的用户名和密码 5.运行程序,自动调用Firefox浏览器登陆微博

注意:手机端信息更加精致简单,而且没有动态加载的一些限制,但是如微博或粉丝id只显示20页,这是它的缺点; 而客户端可能存在动态加载,如评论和微博,但是它的信息更加完整。

[源码] 爬取移动端微博信息

代码语言:javascript
复制
spider_selenium_sina_content.py

输入: 明星用户id列表,采用URL+用户id进行访问(这些id可以从一个用户的关注列表里面获取) SinaWeibo_List_best_1.txt 输出: 微博信息及用户基本信息 SinaWeibo_Info_best_1.txt

Megry_Result_Best.py 该文件用户整理某一天的用户微博信息,如2016年4月23日

[源码] 爬取客户端微博信息

爬取客户端信息,但是评论是动态加载,还在研究中 weibo_spider2.py

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021-09-30 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档