专栏首页golang+phpredis的两种持久化的机制,你真的了解么?

redis的两种持久化的机制,你真的了解么?

redis提供了两种持久化的机制 RDB和AOF机制

RDB(redis Database):RDB保存某一个时间点之前的快照数据。

AOF(Append-Only File):指所有的命令行记录以redis命令请求协议的格式完全持久化存储保存为AOF文件

混合持久化(4.0版本以后):指进行AOF重写时子进程将当前时间点的数据快照保存为RDB文件格式,而后将父进程累计命令保存为AOF格式。

RDB快照有两种触发方式

1:为通过配置参数,如下:

通过一定的时间周日内看,命令执行的个数,超过阈值立即执行快照生成

save 900 1  //900秒内有1次更新
save 300 10 //30秒内有10次更新
save 60 10000  //60秒内有10000次更新

2:手动执行bgsave/save,手动触发生成快照 直接执行save会阻塞主进程,bgsave的话会fork一个子进程完成快照

但是redis在发生RDB持久化的过程中有几个问题需要思考

  1. RDB快照过程中Redis是否会停止对外服务

2.如果不会停止服务,那如何处理新的请求

接下来我们看redis的RDB持久化的具体过程

1:主进程会fork一个子进程

2:子进程会共享一部分主进程的数据空间,并且把共享的数据置为read-only的状态,在这个过程中,子进程以rdb的协议来实行持久化

3:在持久化的过程中是避免不了有新的数据写入的,因为我们有一部分的数据是共享的,两个进程同时拥有一块数据,肯定会导致数据不一致的问题, 但是依赖于操作系统的fork机制,在修改的时候一定是修改部分内存页的数据,这个时候会触发对应内存页的copyonwrite的操作,不会影响子进程完 成持久化,持久化结束后,主进程会对子进程进行回收

RDB的文件格式

redis的rdb文件是一个非常紧凑的格式

  • 开头的REDIS是固定的一个格式,redis在读取持久化文件的时候发现不是以REDIS开头的会报错
  • 0006是RDB_VERSION当前RDB协议的版本
  • AUX_FIELD_KEY_VALUE_PAIRS是一些辅助的字段
  • data则为保存的数据,数据首先会选择redis_db,db选择之后就是键值对的数据,对应的键值对又会分为设置过过期时间和未设置过期时间的数据

RDB持久化的优点

1:二进制的数据非常紧凑,数据的恢复速度非常快

2:在持久化的过程中,性能最大化,fork子进程来完成写操作,让主进程继续处理命令,使用单独子进程来进行持久化,保证了redis的高性能

RDB持久化的缺点

1:数据安全性低,RDB是间隔一段时间进行持久化,如果持久化之间redis发生了故障,会发生数据丢失

2:linux fork之后,kernel把父进程中所有的内存页权限都设置readonly,然后子进程的地址空间指向父进程。当父子进程都只读内存时,相安无事。当其中某个进程写内存时,CPU硬件检测到内存页是read-only的,于是触发页异常中断(page-fault),陷入kernal的一个中断例程。中断例程中,kernel的copyonwrite机制就会把触发的异常页复制一份,于是父子进程各自持有独立的一份。如果这个时候有大量的写入操作,会产生大量的分页错误(页异常中断page-fault ),这样就得耗费不少性能在复制上。

AOF持久化执行流程

通过appendonly yes开启

Redis使用单线程响应命令,如果每次AOF文件命令都追加到磁盘,会极大的影响处理性能,所以Redis先写入aof缓冲区,根据用户配置的同步磁盘策略写入aof文件中,可以通过appendfsync参数配置同步策略:含义如下

appendfsync always #表示每次更新操作后手动调用fsync()将数据写入到磁盘
appendfsync everysec #表示每秒同步一次(折中方案,默认值)
appendfsync no  #表述等操作系统进行数据缓存同步到磁盘(快速响应客户端,不对AOF做数据同步,同步文件由操作系统负责,通常同步周期最长30S)

AOF重写机制 随着命令的不断写入AOF,文件会越来越大,为了解决这个问题Redis引入了AOF重写机制压缩文件体积。AOF文件重写是把Redis进程内的数据转化为写命令同步到新AOF文件的过程,AOF重写机制可以通过手动触发了自动触发

手动触发:bgreweuteaof命令

自动触发:

auto-aof-rewrite-percentage 100 #表示当前AOF文件空间和上一次重写后AOF文件空间的比值(100%)
auto-aof-rewrite-min-size 64mb #代表AOF重写时文件最小体积

AOF的优点:数据安全,AOF持久化可以配置appendfsync属性,有always,每进行一次命令操作就记录到aof文件中一次。

AOF的缺点:数据集比较大的时候,比RDB启动效率低

混合持久化

可以通过aof-use-rdb-preamble yes开启

加载时,首先会识别AOF文件是否以REDIS字符串开头,如果是,就按照RDB格式加载,加载完RDB后继续按AOF格式加载剩余部分。混合式持久化方案兼顾了RDB的速度,和AOF的安全性

本文分享自微信公众号 - 程序员养成日记(programmer_grow),作者:程序员养成日记

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-10-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • redis的持久化

    Redis借助了fork命令的copy on write机制。在生成快照时,将当前进程fork出一个子进程,然后在子进程中循环所有的数据,将数据写成为RDB文件...

    程序员养成日记
  • 网络基础介绍

    TCP/IP(Transmission Control Protocol/Internet Protocol)的简写,中文译名为传输控制协议/因特网互联协议,又...

    程序员养成日记
  • redis源码之hash结构的实现

    redis的hash的基本命令暂时先不多说,我们直接步入正文 在redis的hash结构中,存在这样一种现象

    程序员养成日记
  • Redis学习一:Redis两种持久化机制

    为了避免内存中的数据丢失,Redis提供了对持久化的支持。Redis共有RDB和AOF两种持久化机制。

    一枝花算不算浪漫
  • redis只加载AOF文件

    如果同时配置写AOF和RDB两种文件,但在redis启动时,只会加载AOF,除非配置只写RDB,才会加载RDB文件,也因此AOF文件必须是全量数据,所以会越来...

    一见
  • Redis持久化

    采用RDB持久化方式,redis会定期把数据快照保存到一个rdb文件中,并在启动时加载rdb文件,恢复之前保存的数据,可以在配置文件中设置保存数据的时间:

    小俊丶Eternally
  • 拆解 Redis 持久化 的工作原理

    Hello 各位 ,我是公号「八点半技术站」的创作者 - Bruce.D (姓氏:豆)。

    八点半的Bruce、D
  • Confluence 6 生产环境备份策略 原

    一旦你的 Confluence 安装实例中超过了上千的页面,相对数据库自带的数据备份来说,XML 的备份方案就显得没有那么有效了。XML 的备份方法需要占用服务...

    HoneyMoose
  • JS深度判断两个对象字段相同

    莫问今朝
  • JavaScript重构技巧-降低函数复杂度

    JavaScript 是一种易于学习的编程语言,编写运行并执行某些操作的程序很容易。然而,要编写一段干净的JavaScript 代码是很困难的。

    前端小智@大迁世界

扫码关注云+社区

领取腾讯云代金券