腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
进击的Coder
专栏成员
举报
559
文章
1325625
阅读量
200
订阅数
订阅专栏
申请加入专栏
全部文章(559)
python(191)
爬虫(109)
编程算法(101)
https(80)
网络安全(73)
github(43)
深度学习(41)
网站(41)
神经网络(40)
开源(40)
git(38)
javascript(35)
scrapy(29)
api(28)
人工智能(28)
数据库(27)
机器学习(24)
http(23)
java(20)
分布式(17)
其他(16)
html(16)
ide(16)
容器镜像服务(16)
大数据(16)
windows(15)
tensorflow(14)
云数据库 Redis(14)
linux(13)
selenium(13)
tcp/ip(13)
sql(12)
存储(12)
安全(11)
数据分析(11)
NLP 服务(10)
android(10)
微信(10)
mongodb(9)
numpy(9)
c++(8)
php(8)
go(8)
css(8)
ajax(8)
apache(8)
腾讯云测试服务(8)
shell(8)
json(7)
云数据库 SQL Server(7)
matlab(7)
容器(7)
ssh(7)
微服务(7)
官方文档(6)
ios(6)
vue.js(6)
缓存(6)
dns(6)
打包(5)
搜索引擎(5)
ubuntu(5)
文件存储(5)
强化学习(5)
迁移学习(5)
bash(4)
node.js(4)
unix(4)
nginx(4)
云直播(4)
卷积神经网络(4)
正则表达式(4)
keras(4)
单元测试(4)
数据结构(4)
计算机(4)
配置(4)
iphone(3)
react(3)
apt-get(3)
日志服务(3)
命令行工具(3)
图像处理(3)
电商(3)
webpack(3)
kubernetes(3)
游戏(3)
自动化(3)
ftp(3)
自动化测试(3)
腾讯云开发者社区(3)
验证码(3)
云服务器(2)
DNS 解析 DNSPod(2)
腾讯云学堂(2)
区块链(2)
mac os(2)
硬件开发(2)
sqlite(2)
nosql(2)
django(2)
eclipse(2)
bash 指令(2)
批量计算(2)
访问管理(2)
云数据库 MongoDB(2)
SSL 证书(2)
数据加密服务(2)
es 2(2)
企业(2)
svg(2)
xslt & xpath(2)
黑客(2)
gui(2)
推荐系统(2)
socket编程(2)
数据处理(2)
数据可视化(2)
架构设计(2)
jupyter notebook(2)
sdk(2)
云课堂(2)
bug(2)
title(2)
登录(2)
技巧(2)
模型(2)
云镜(主机安全)(1)
对象存储(1)
人脸识别(1)
创业扶持(1)
比特币(1)
scala(1)
xml(1)
postgresql(1)
web.py(1)
tomcat(1)
中文分词(1)
tornado(1)
容器服务(1)
短视频(1)
海外加速(1)
消息队列 CMQ 版(1)
天御验证码(1)
腾讯git代码托管(工蜂)(1)
文字识别(1)
声纹识别(1)
短信(1)
DevOps 解决方案(1)
渲染(1)
数据安全(1)
electron(1)
express(1)
运维(1)
压力测试(1)
spark(1)
jdk(1)
图像识别(1)
hive(1)
erp(1)
监督学习(1)
线性回归(1)
openstack(1)
seo(1)
kotlin(1)
pytorch(1)
markdown(1)
rpc(1)
udp(1)
敏捷开发(1)
jenkins(1)
hexo(1)
ntp(1)
anaconda(1)
powershell(1)
机器人(1)
安全漏洞(1)
element ui(1)
nest(1)
信息流(1)
云计算(1)
kafka(1)
聚类算法(1)
unicode(1)
ascii(1)
互动白板(1)
rust(1)
接口测试(1)
性能测试(1)
实时监控(1)
程序人生(1)
腾讯云图数据可视化(1)
Elasticsearch Service(1)
数据湖分析(1)
数据湖(1)
axis(1)
bind(1)
data(1)
dom(1)
get(1)
hugo(1)
i18n(1)
localization(1)
max(1)
mean(1)
model(1)
pipeline(1)
reshape(1)
response(1)
sh(1)
url(1)
vercel(1)
编译(1)
博客(1)
部署(1)
程序员(1)
存储过程(1)
对象(1)
二维码(1)
服务(1)
工具(1)
工作(1)
管理(1)
函数(1)
后端(1)
客户端(1)
跨域(1)
连接(1)
前端(1)
视频(1)
数据(1)
搜索(1)
索引(1)
虚拟机(1)
音频(1)
用户体验(1)
语法(1)
域名(1)
注解(1)
搜索文章
搜索
搜索
关闭
今天面了个阿里秒杀组的,见识到了八股文天花板!
云数据库 Redis
电商
压力测试
分布式
秒杀系统为什么如此经典,常常被人拿出来讲? 因为它是一个典型的读远大于写的业务场景。同样地,抢票软件也是这个逻辑,1 趟火车只放 2000 张票,可是却有成百上千万人同时在网站上抢,看到这里你大概意识到这类业务为什么难做了。 此外任何大型网站应用,只要涉及大流量、高并发,都免不了在浏览器层、站点层、服务层、数据层这几层核心上下功夫。 因此,秒杀系统的调优策略,放在很多分布式系统中都是适用的: "请求超过了系统负载怎么办?如何保证分布式事务中的消息不丢失?什么情况下使用 Redis 缓存……" 尤其金三银四
崔庆才
2022-05-25
896
0
阿里二面被问 Redis 主从复制和集群,14:03 进去的,14:08 就出来了…
云数据库 Redis
缓存
java
运维
json
要说在近几年的面试里,考察难度只增不减的,Redis 可谓是当仁不让! 而往前倒推几年,最人气的 NoSQL 数据库还是 MongoDB,同一年发布的 Redis 甚至排不上号。 归功于这几年缓存技术的发展、企业对性能的要越来越高,而 Redis 最大的优势,就是快!(快字我已经说腻了) 网友对几大主流数据库的形象总结 因此,现在出去面试 Java/ 后端开发等类型的岗位,Redis 是绝对绕不开的一趴: Redis 持久化机制 缓存雪崩、缓存穿透、缓存预热、缓存更新、缓存降级等问题 单线程的 Redi
崔庆才
2022-03-04
312
0
干货!爬虫框架 Feapder 和 Scrapy 的对比分析
爬虫
云数据库 Redis
scrapy
http
分布式
scrapy 自带的重试中间件只支持请求重试,解析函数内异常或者数据入库异常不会重试,但爬虫在请求数据时,往往会有一些意想不到的页面返回来,若我们解析异常了,这条任务岂不是丢了。
崔庆才
2021-10-08
2.2K
0
我给 Scrapy Redis 开源库发的 PR 被合并了
云数据库 Redis
爬虫
https
api
网络安全
不知道大家基于 Scrapy-Redis 开发分布式爬虫的时候有没有遇到一个比较尴尬的问题,且听我一一道来。
崔庆才
2021-03-23
481
0
一日一技:除了 time.sleep,你还有一个暂停代码的方法
云数据库 Redis
我们知道,在 Python 里面可以使用time.sleep来让代码暂停一段时间,例如:
崔庆才
2020-11-10
2.3K
0
一文详细揭秘 Redis 持久化,了解一下?
云数据库 Redis
Redis 是一个开源( BSD 许可)的,内存中的数据结构存储系统,它可以用作数据库、缓存和消息中间件。它支持的数据类型很丰富,如字符串、链表、集 合、以及散列等,并且还支持多种排序功能。
崔庆才
2018-11-23
479
0
分布式爬虫原理之Scrapy分布式实现
分布式
爬虫
scrapy
云数据库 Redis
接下来,我们会利用Scrapy-Redis来实现分布式的对接。 一、准备工作 请确保已经成功实现了Scrapy新浪微博爬虫,Scrapy-Redis库已经正确安装。 二、搭建Redis服务器 要实现分布式部署,多台主机需要共享爬取队列和去重集合,而这两部分内容都是存于Redis数据库中的,我们需要搭建一个可公网访问的Redis服务器。 推荐使用Linux服务器,可以购买阿里云、腾讯云、Azure等提供的云主机,一般都会配有公网IP,具体的搭建方式可以参考第1章中Redis数据库的安装方式。 Redi
崔庆才
2018-06-25
1.6K
0
Python操作Redis,你要的都在这了!
python
云数据库 Redis
数据库
存储
数据结构
Redis是一个基于内存的高效的键值型非关系型数据库,存取效率极高,而且支持多种存储数据结构,使用也非常简单。本节中,我们就来介绍一下Python的Redis操作,主要介绍RedisPy这个库的用法。 1. 准备工作 在开始之前,请确保已经安装好了Redis及RedisPy库。如果要做数据导入/导出操作的话,还需要安装RedisDump。 2. Redis 和 StrictRedis RedisPy库提供两个类Redis和StrictRedis来实现Redis的命令操作。 StrictRedis实现
崔庆才
2018-06-25
33.8K
0
用Flask+Aiohttp+Redis维护动态代理池
云数据库 Redis
在网上有大量公开的免费代理,或者我们也可以购买付费的代理IP,但是代理不论是免费的还是付费的,都不能保证都是可用的,因为可能此IP被其他人使用来爬取同样的目标站点而被封禁,或者代理服务器突然发生故障或网络繁忙。一旦我们选用了一个不可用的代理,这势必会影响爬虫的工作效率。 所以,我们需要提前做筛选,将不可用的代理剔除掉,保留可用代理。接下来我们就搭建一个高效易用的代理池。 一、准备工作 首先需要成功安装Redis数据库并启动服务,另外还需要安装aiohttp、requests、RedisPy、pyquer
崔庆才
2018-06-25
1.6K
0
轻松获得海量稳定代理!ADSL拨号代理的搭建
git
云数据库 Redis
数据库
tornado
我们尝试维护过一个代理池。代理池可以挑选出许多可用代理,但是常常其稳定性不高、响应速度慢,而且这些代理通常是公共代理,可能不止一人同时使用,其IP被封的概率很大。另外,这些代理可能有效时间比较短,虽然代理池一直在筛选,但如果没有及时更新状态,也有可能获取到不可用的代理。 如果要追求更加稳定的代理,就需要购买专有代理或者自己搭建代理服务器。但是服务器一般都是固定的IP,我们总不能搭建100个代理就用100台服务器吧,这显然是不现实的。 所以,ADSL动态拨号主机就派上用场了。下面我们来了解一下ADSL拨号
崔庆才
2018-06-25
10K
2
为什么分布式一定要有redis?
分布式
云数据库 Redis
sql
缓存
作者:孤独烟 来源:博客园 出处:http://rjzheng.cnblogs.com/ 1. 为什么使用redis 分析:博主觉得在项目中使用redis,主要是从两个角度去考虑:性能和并发。当然,redis还具备可以做分布式锁等其他功能,但是如果只是为了分布式锁这些其他功能,完全还有其他中间件(如zookpeer等)代替,并不是非要使用redis。因此,这个问题主要从性能和并发两个角度去答。 回答:如下所示,分为两点 (一)性能 如下图所示,我们在碰到需要执行耗时特别久,且结果不频繁变动的SQL,就特
崔庆才
2018-06-25
660
0
Scrapy-Redis分布式爬虫源码解析
scrapy
云数据库 Redis
分布式
爬虫
Scrapy-Redis库已经为我们提供了Scrapy分布式的队列、调度器、去重等功能,其GitHub地址为:https://github.com/rmax/scrapy-redis。 本节我们深入了解一下,利用Redis如何实现Scrapy分布式。 1. 获取源码 可以把源码Clone下来,执行如下命令: git clone https://github.com/rmax/scrapy-redis.git 核心源码在scrapy-redis/src/scrapy_redis目录下。 2. 爬取队列 从爬
崔庆才
2018-04-04
1.4K
0
Python 3 中 Redis 的用法
云数据库 Redis
python
Redis存储 在本节我们介绍一下Python的Redis操作,在本节开始之前请确保你已经安装好了Redis及Python Redis库。 Redis和StrictRedis Redis库提供两个类R
崔庆才
2017-07-27
5.5K
0
利用 Flask+Redis 维护 IP 代理池
云数据库 Redis
存储
数据库
崔庆才
2017-04-25
3.7K
0
没有更多了
社区活动
【纪录片】中国数据库前世今生
穿越半个世纪,探寻中国数据库50年的发展历程
立即查看
Python精品学习库
代码在线跑,知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档