首页
学习
活动
专区
工具
TVP
发布

未闻Code

专栏作者
582
文章
1060930
阅读量
92
订阅数
一日一技:Scrapy最新版不兼容scrapy_redis的问题
有不少同学在写爬虫时,会使用Scrapy + scrapy_redis实现分布式爬虫。不过scrapy_redis最近几年更新已经越来越少,有一种廉颇老矣的感觉。Scrapy的很多更新,scrapy_redis已经跟不上了。
青南
2023-08-21
4221
一日一技:这个使用场景,etcd 比 Redis 强
我们说,要评判一个东西的好坏,一定要说明具体在什么业务场景。脱离业务谈好坏是没有意义的。
青南
2021-12-02
4990
【技术角度科普】鸿蒙的“分布式”究竟是个啥情况?
所以...我来分享一下我了解到的东西以及我的理解吧,希望能让大家对鸿蒙的了解更清晰一些,做到既不要因为营销而看不到鸿蒙好的那一面,也不要因为鸿蒙好的那一面而无脑吹鸿蒙或觉得非华为不可、其他厂商和个人都是垃圾,用理性、客观的态度去看待这个(或者说是“这些”?)新生的事物。如果内容中有啥错漏,欢迎友善交流,杠精勿扰。
青南
2021-06-23
6680
成千上万个站点,日数据过亿的大规模爬虫是怎么实现的?
1.网页文本智能提取;2.分布式爬虫;3.爬虫 DATA/URL 去重;4.爬虫部署;5.分布式爬虫调度;6.自动化渲染技术;7.消息队列在爬虫领域的应用;8.各种各样形式的反爬虫;
青南
2020-12-03
1.4K0
一日一技:这个使用场景,etcd 比 Redis 强。
我们说,要评判一个东西的好坏,一定要说明具体在什么业务场景。脱离业务谈好坏是没有意义的。
青南
2020-07-14
4K0
使用Docker Swarm搭建分布式爬虫集群
在爬虫开发过程中,你肯定遇到过需要把爬虫部署在多个服务器上面的情况。此时你是怎么操作的呢?逐一SSH登录每个服务器,使用git拉下代码,然后运行?代码修改了,于是又要一个服务器一个服务器登录上去依次更新?
青南
2018-10-18
6710
使用Docker Swarm搭建分布式爬虫集群
在爬虫开发过程中,你肯定遇到过需要把爬虫部署在多个服务器上面的情况。此时你是怎么操作的呢?逐一SSH登录每个服务器,使用git拉下代码,然后运行?代码修改了,于是又要一个服务器一个服务器登录上去依次更新?
青南
2018-10-14
1K0
没有更多了
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天,分 10000 元奖品池!
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档