前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >python3之redis cluste

python3之redis cluste

作者头像
py3study
发布2020-01-06 17:31:18
7790
发布2020-01-06 17:31:18
举报
文章被收录于专栏:python3python3

一、Redis 介绍

Redis 是一个开源内存的数据存储系统,行业中用作高效数据库缓存较多。它支持多种类型的数据结构:strings:hashes,lists,sets,sorted sets, bitmaps,hyperloglogs ,geospatial。并且支持对这些类型执行 原子操作 , 列如: int的增减,strings 的append,hashes hincrby,lists lpush,sets的交集sinter,并集union和差集sdiff命令。

redis局限:在cluster未问世前,redis只有主从方式的高可用架构。redis server 侧的可扩展性(容量及性能)严重受到影响。一旦内存达到上限,只能从client侧去优化(client 去做hash),或者升级server的硬件来解决容量和性能问题。

二、Redis cluster的介绍

Redis 集群是 Redis 的一个分布式实现,主要是为了实现以下这些目标(按在设计中的重要性排序):

在1000个节点的时候仍能表现得很好并且可扩展性(scalability)是线性的。

没有合并操作,这样在 Redis 的数据模型中最典型的大数据值中也能有很好的表现。

写入安全(Write safety):那些与大多数节点相连的客户端所做的写入操作,系统尝试全部都保存下来。不过公认的,还是会有小部分(small windows?)写入会丢失。

可用性(Availability):在绝大多数的主节点(master node)是可达的,并且对于每一个不可达的主节点都至少有一个它的从节点(slave)可达的情况下,Redis 集群仍能进行分区(partitions)操作。

三、本文目标:

python 3使用cluster操作(需要远程连接,非回环地址),设置密码

四、cluster的搭建

略,详见:

https://redis.io/topics/cluster-tutorial

http://www.redis.cn/topics/cluster-spec.html

注意本文使用redis-4.0.1:http://download.redis.io/releases/redis-4.0.1.tar.gz

五、注意事项

搭建中的坑(在一台机器上搭建6个redis 节点):

1、redis.conf

1)需要bind到非回环的ip(非127.0.0.1)或者0.0.0.0

2)需要关闭 protected-mode,否则

内容如下

bind 0.0.0.0

port 7000

cluster-enabled yes

cluster-config-file "nodes.conf"

cluster-node-timeout 5000

appendonly yes

protected-mode no

#使用redis-trib.rb构建集群,集群构建完成前不要配置密码,集群构建完毕再通过命令逐个机器设置密码。注意,此时,以上配置文件内容中没有pass和auth相关配置

2、创建集群的时候,不能使用127.0.0.1,否则远端的client在set的时候,被Redirected至127.0.0.1就导致连接异常。

例子如下,我本地的ip为:172.16.199.1

./redis-trib.rb create --replicas 1 172.16.199.1:7000 172.16.199.1:7001 172.16.199.1:7002 172.16.199.1:7003 172.16.199.1:7004 172.16.199.1:7005

3、设置密码

1)redis cluster的requirepass和masterauth都要配置,否则发生主从切换时,就会遇到授权问题

2)各个节点的密码都必须一致(从7000到7005端口都需要依次设置),否则Redirected就会失败

redis-cli -c -p 7000 -h 172.16.199.1

redis 172.16.199.1:7000>config set masterauth CATAPI

redis 172.16.199.1:7000>config set requirepass CATAPI

redis 172.16.199.1:7000>auth CATAPI

redis 172.16.199.1:7000>config rewrite

4、client命令测试:

wKiom1mHCKqxOXxTAAG70GzbTOs770.png-wh_50
wKiom1mHCKqxOXxTAAG70GzbTOs770.png-wh_50

六:python redis cluster的测试:

环境:python3.6.2

centos:6.7

python连接cluster,有redis-py-cluster

python -m pip install redis-py-cluster

1、config.py

# encoding=utf-8

__author__ = 'river'

#redis cluster的nodes

REDIS_NODES=[

           {'host':'172.16.199.1','port':7000},

           {'host':'172.16.199.1','port':7001},

           {'host':'172.16.199.1','port':7002},

           {'host':'172.16.199.1','port':7003},

           {'host':'172.16.199.1','port':7004},

           {'host':'172.16.199.1','port':7005}

            ]

#redis的key的过期时间,单位s

REDIS_EXPIRETIME=1200

REDIS_MAX_CONNECTIONS=50

REDIS_PASSWD='CATAPI'

2、redis-test.py

# encoding=utf-8

__author__ = 'river'

from rediscluster import StrictRedisCluster

from app import app

def conredis(app):

   redis_nodes = app.config["REDIS_NODES"]

# redis_expiretime=app.config["REDIS_EXPIRETIME"]

maxconnections=app.config["REDIS_MAX_CONNECTIONS"]

   redis_password=app.config["REDIS_PASSWD"]

redisClient=None

   try:

redisClient = StrictRedisCluster(startup_nodes = redis_nodes,max_connections=maxconnections,password=redis_password)

except Exception as e:

       app.logger.error("redis cluster connect error,redis_nodes:"+str(redis_nodes))

redisClient=None

   return redisClient

if __name__=='__main__':

   redis_expiretime=app.config["REDIS_EXPIRETIME"]

   redisClient=conredis(app)

   redis_expiretime=app.config["REDIS_EXPIRETIME"]

   redisClient.set('testkey',12,redis_expiretime)

   redisClient.incr('testkey',13)

print(redisClient.get('testkey'))

3、执行结果

wKioL1mHCKuAWSUQAAKEL98la5U685.png-wh_50
wKioL1mHCKuAWSUQAAKEL98la5U685.png-wh_50
本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2019-09-27 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
云数据库 Redis
腾讯云数据库 Redis(TencentDB for Redis)是腾讯云打造的兼容 Redis 协议的缓存和存储服务。丰富的数据结构能帮助您完成不同类型的业务场景开发。支持主从热备,提供自动容灾切换、数据备份、故障迁移、实例监控、在线扩容、数据回档等全套的数据库服务。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档