专栏首页DBA随笔Redis开发与运维学习笔记---(14)

Redis开发与运维学习笔记---(14)

//

Redis开发与运维学习笔记---(14)

//

Redis内存优化

我们知道redis的数据都保存在内存中,如何高效利用内存变得尤为重要。这里主要从内存消耗、管理内存的原理与方法、内存优化技巧三个方面来讲述如何高效实现内存的存储。昨天说了内存消耗和内存管理方面的内容,今天主要描述内存优化相关知识。

01

redisobject

Redis使用object结构体来保存redis对象,

一个redisobject包含下面几个方面的内容:

type:对象类型,包含string,hash,list,set,zset等类型

encoding(内部编码类型):redis的内部编码类型。

lru(LRU计时时钟):记录对象最后一次被访问的时间。

refcount(引用计数器):记录当前对象呗引用的次数,当该值为0时,可安全回收对象空间。

*ptr(数据指针):与对象的内容相关,如果是整数,直接存储数据,否则表示指向数据的指针。

使用redisobject结构体来保存对象,可以根据对象的特点指定最合适的类型、编码方式,记录最后一次的访问时间,如果很久没有访问或者引用计数器refcount为0次,则可以回收对象空间,从而降低内存。

02

缩减键值对象

降低redis内存最直接的方式就是缩减key和value的长度。

key长度缩减,在完成描述业务情况下,键值越短越好。如user:frends可简化为u:fs

value长度缩减,首先是避免不必要的对象属性等,其次是将业务对象序列化成二进制数组放入redis,或者使用json、xml等将对象作为字符串存储在Redis中,如果占用内存还是较大,可以采用压缩的方法

03

共享对象池

redis在内存中维护了一个[0~9999]的整数对象池,用于节约内存。除了整数值对象,其他类型,如list,hash,set,zset中的元素也可以使用整数对象池。

127.0.0.1:6379> set hello 100
OK
127.0.0.1:6379> object refcount hello
(integer) 2
127.0.0.1:6379> set world 100
OK
127.0.0.1:6379> object refcount world
(integer) 3

object refcount命令可以查看对象是否使用了整数对象池。

当我们设置hello为100时,引用数是2,当设置了world也是100时,引用数变为3,说明hello和world都使用了整数对象池中的100

有统计表明,redis在使用共享对象池后,相同的数据内存使用率降低了30%以上。这里需要注意一点,就是当我们开启了maxmemory和LRU淘汰策略后,整数对象池就无效了。这其中的原因是,共享对象意味着多个引用共享同一个redisobject,这时候LRU字段也会共享,导致无法获取每个对象的最后访问时间。

如果没有设置maxmemory,知道内存耗尽redis也不会进行内存回收,这也是有害的,所以当我们使用共享对象池的时候,要综合考虑实际情况。

04

字符串优化

redis没有使用c的原生字符串类型,而是自己实现了字符串结构。它的字符串有以下特点:

1、包含len、free、char[]三个部分,其中len代表长度,free代表剩余长度,char[]中是已占用的数据

2、可以在O(1)复杂度内获取字符串长度、已使用长度和未使用长度

3、redis字符串有预分配制度,在对字符串对象追加一定字节的数据后,redis的字符串会预分配一倍容量作为预留空间,而且会造成内存的重新分配,带来内存碎片率上升。因此,尽量减少字符串频繁的修改操作,例如append,setrange等,改为直接使用set修改字符串,降低预分配带来的内存浪费和内存碎片化

4、使用二级结构存储也能帮助我们节省内存,可以使用hmget,hmset进行字段的部分读取修改,而不用每次都整体存取。

05

编码优化

redis中针对5种数据结构,都设置了不同的编码方式。每种数据类型都至少可以采用2种编码方式来实现。不同的编码用来实现效率和空间的平衡。比如当我们只存储10个元素时,使用双向链表必然会比连续内存结构的压缩列表耗时长。

redis的编码类型转换在写入数据时是自动完成的,该过程不可逆,编码转换只能从小内存编码向大内存编码转换。针对每种编码,我们可以理解编码的相关属性,然后使用config set命令设置编码的相关参数来应用它的优势。

各种数据类型和支持的编码类型如下:

string类型

支持编码:raw,embstr,int

hash类型

支持编码:hashtable,ziplist

list类型

支持编码:linkedlist、ziplist,quicklist

set类型

支持编码:hashtable,intset

zset类型:

支持编码:skiplist,ziplist

这里不再详细展开,编码相关的内容,比较多,后续有时间,专门写篇文章总结下每种数据类型的编码有哪些优势和不足。

本文分享自微信公众号 - DBA随笔(gh_acc2bbc0d447),作者:AsiaYe

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-04-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Redis开发与运维学习笔记---(13)

    我们知道redis的数据都保存在内存中,如何高效利用内存变得尤为重要。这里主要从内存消耗、管理内存的原理与方法、内存优化技巧三个方面来讲述如何高效实现内存的存储...

    AsiaYe
  • Redis开发与运维学习笔记---(5)

    redis中的事务和MySQL中的事务类似,也是为了保证多条命令组合的原子性,为此,redis提供了简单的事务功能以及集成Lua来解决这个问题。下面我们来...

    AsiaYe
  • MySQL之source命令

    今天上班的时候,开发的同事拿过来一个.zip的压缩包文件,说是要把里面的数据倒入到数据库里面,本来想着是成型的SQL,只需要复制粘贴一下,倒入到数据库中就可以...

    AsiaYe
  • 【专业技术】Android内存泄漏简介

    存在问题: 不少人认为JAVA程序,因为有垃圾回收机制,应该没有内存泄露。 解决方案: 其实如果我们一个程序中,已经不再使用某个对象,但是因为仍然有引用指向它...

    程序员互动联盟
  • 小学生算术

    很多小学生在学习加法时,发现“进位”特别容易出错。你的任务是计算两个三位数在相加时需要多少次进位。你编制的程序应当可以连续处理多组数据,直到读到两个0(这是输入...

    书童小二
  • [编程题] 彩色瓷砖分析代码

    牛牛喜欢彩色的东西,尤其是彩色的瓷砖。牛牛的房间内铺有L块正方形瓷砖。每块砖的颜色有四种可能:红、绿、蓝、黄。给定一个字符串S, 如果S的第i个字符是'R', ...

    desperate633
  • 溜得飞起的单细胞bus你还不上车?

    下意识的以为是有人把单细胞数据分析流程总结成为了一个地铁线路图或者公交车线路图,因为我们生信技能树VIP群里这两天有人把一下NGS分析流程整理成为了这样的图,如...

    生信技能树jimmy
  • LeetCode | 机器人能否返回原点

    放假的时间已经过去一半了,每天坚持看一个多小时的书,时间虽然不多,但是能专心把书看进去就可以了。今天分享的是 LeetCode 上面的第 657 题...

    码农UP2U
  • 小和问题

     在一个数组中,每一个数左边比当前数小的数累加起来,叫做这个数组的小和。求一个数组的小和。

    mathor
  • G1 GC:一个神奇的 JVM 参数,减少你的内存消耗

    现代 Java 应用程序有大量的字符串操作,例如,Web 服务 API 调用(JSON、REST、SOAP 等)、外部数据源调用(SQL、从 DB 返回的数据等...

    Java_老男孩

扫码关注云+社区

领取腾讯云代金券