Redis-脚本-获取某个大key的值

1、背景

在redis中,对于一个很大的key,例如hash类型,直接查看其值会非常慢,于是想到写个脚本通过增量迭代来获取

2、具体的脚本如下:

功能:扫描redis某个key里面的所有元素 使用方法:python bigkey_save_values.py "zyyset" "*" 100

3、python脚本实现如下:

#!/usr/bin/env python
# -*- coding: UTF-8 -*-  
#功能:扫描某个key里面的所有元素
#使用方法:python bigkey_save_values.py "zyyset" "m*" 100
#如需获取全部的元素:python bigkey_save_values.py "zyyset" "*" 100
__author__ = "lcl"  
import sys
import redis 
import os 
  
pool=redis.ConnectionPool(host='192.168.225.128',port=6379,db=0)  
r = redis.StrictRedis(connection_pool=pool)  
#指定key
key = sys.argv[1]
#扫描匹配值
match = sys.argv[2]
#每次匹配数量
count = sys.argv[3]
#总数量
total = 0
#获取当前路径
path = os.getcwd()
keytype = r.type(key)
print "key的类型为%s" % (keytype)
#扫描到的key输出的文件
txt = path+"/%s.txt" % (key)

#打开文件
#f = open(txt,"w")
def list_iter(name):
    list_count = r.llen(key)
    for index in range(list_count):
        yield r.lindex(key, index)

if keytype=='list':
    f = open(txt,"w")
    for item in list_iter(key):
#将匹配到对应key中的member/score输出到文件中
        f.write("%s %s" % (item,"\n"))
        total = total+1
    f.close

elif keytype=='hash':
    f = open(txt,"w")
    for item in r.hscan_iter(key,match = match,count = count):
#将匹配到对应key中的member/score输出到文件中
        f.write("%s %s" % (item,"\n"))
        total = total+1
    f.close
 
elif keytype=='set':
    f = open(txt,"w")
    for item in r.sscan_iter(key,match = match,count = count):
        f.write("%s %s" % (item,"\n"))
        total = total+1
    f.close

elif keytype=='zset':
    f = open(txt,"w")
    for item in r.zscan_iter(key,match = match,count = count):
        f.write("%s %s" % (item,"\n"))
        total = total+1
    f.close

else:
    print("key的类型为string,value为:" + r.get(key))

print "key:%s的match:%s的数量为:%d" % (key,match,total)

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏数据分析1480

受用一生的高效 PyCharm 使用技巧(三)

比如,常用的模块有 cProfile,在某些框架中,也内置了中间件帮助你进行性能分析,比如 Django ,WSGI。

27940
来自专栏TalkPython

怎样用Python提取图片中的文字

有时候在爬取数据的时候,需要读取网页中图片中的信息。在读取和处理图像、图像相关的机器学习以及创建图像等任务中,Python一直都是非常出色的语言。有两个库非常流...

1.3K20
来自专栏TalkPython

用Python播放和录制声音

Python语言已经无所不能了,今天就来分享一下,如何使用Python来录制和播放音频文件。

88030
来自专栏TalkPython

使用Python实现文件压缩和解压

大家可能都熟悉.zip格式的文件。它可以把多个文件,压缩成一个文件。这在网络上传输时很有用,而且节省硬盘空间。

34740
来自专栏TalkPython

有用的工具

Python标准库中有几个内置工具,可以帮助我们在编程过程中,确定变量的类型和对象的类型。

8830
来自专栏TalkPython

使用Flask和Vue.js开发一个单页面应用程序(三)

我们的目标是设计一个后端RESTful API,由Python和Flask提供支持。API本身应该遵循RESTful设计原则,使用基本的HTTP请求方式:GET...

11410
来自专栏崔庆才的专栏

使用 Python 分析 14 亿条数据

你用 Python 处理过的最大数据集有多大?我想大概不会超过上亿条吧,今天分享一个用 Python 处理分析 14 亿条数据的案例。

16830
来自专栏TalkPython

爬虫笔记(一)

写爬虫,写多之后,你会觉得,自己写各种功能太麻烦了。还是的整个框架方便。因此,从写爬虫脚本开始,逐渐会用到一些爬虫框架。爬虫框架不仅功能丰富、而且效率、扩展都非...

13230
来自专栏TalkPython

Python 文本处理介绍

文本处理,在Python中有很多方法,最常见的有正则表达式,标准库的字符串处理方法。当然除了常用的方法外,还可以使用NLTK自然语言工具包处理字符串、使用机器学...

22530
来自专栏TalkPython

如何使用wxPython构建一个GUI应用程序

wxPython是Python语言的一套优秀的GUI图形库。我们可以使用Python程序很方便的创建完整的、功能键全的GUI用户界面。 wxPython是作为优...

21920

扫码关注云+社区

领取腾讯云代金券

年度创作总结 领取年终奖励