什么是Redis的主从复制
主从复制,是指将一台Redis服务器的数据,复制到其他的Redis服务器。前者称为主节点(master),后者称为从节点(slave);数据的复制是单向的,只能由主节点到从节点。
默认情况下,每台Redis服务器都是主节点;且一个主节点可以有多个从节点(或没有从节点),但一个从节点只能有一个主节点。
主从复制的作用
主从复制是Redis高可用的基础,主要的作用的故障恢复。当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复
主从复制的开启
主从复制的开启,完全是在从节点发起的;不需要我们在主节点做任何事情
在从服务器的配置文件中加入:
slaveof <masterip> <masterport>
主从复制的测试
在同一台机器是部署主节点和从节点
在centos安装redis
yum install redis
默认的配置文件在/etc/redis.conf
启动时报错,根据日志里的提示修改
把下面的命令添加到/etc/sysctl.conf 文件:
vm.overcommit_memory = 1
net.core.somaxconn = 2048
把下面的命令添加到/etc/rc.local 文件:
echo never > /sys/kernel/mm/transparent_hugepage/enabled
重启系统
部署
master的配置文件修改:
复制/etc/redis.conf到/etc/redis/6379.conf
修改6379.conf文件
daemonize yes
启动:
redis-server /etc/redis/6379.conf
查看日志:
tail -f /var/log/redis/redis.log
slave的配置文件修改
复制/etc/redis/6379.conf到/etc/redis/6380.conf
修改:
port 6380
daemonize yes
pidfile /var/run/redis_6380.pid
dbfilename slave_dump.rdb
appendfilename "slave_appendonly.aof"
slaveof 127.0.0.1 6379
启动:
redis-server /etc/redis/6380.conf
测试
连接上主节点
[root@VM_0_4_centos ~]# redis-cli -h 127.0.0.1 -p 6379
127.0.0.1:6379> get hello
(nil)
127.0.0.1:6379> set hello world
OK
连接上从节点
[root@VM_0_4_centos ~]# redis-cli -h 127.0.0.1 -p 6380
127.0.0.1:6380> get hello
"world"
可以看到从机上有主机同步过来的数据
主从复制原理
全量复制
1.主节点收到全量复制的命令后,执行bgsave,在后台生成RDB文件,并使用复制缓冲区记录从现在开始执行的所有写命令
2.主节点的bgsave执行完成后,将RDB文件发送给从节点
3.从节点首先清除自己的旧数据,然后载入接收的RDB文件,将数据库状态更新至主节点执行bgsave时的数据库状态
4.主节点将前述复制缓冲区中的所有写命令发送给从节点,从节点执行这些写命令,将数据库状态更新至主节点的最新状态
5.如果从节点开启了AOF,则会触发bgrewriteaof的执行,从而保证AOF文件更新至主节点的最新状态
通过全量复制的过程可以看出,全量复制是非常重型的操作:
(1)主节点通过bgsave命令fork子进程进行RDB持久化,该过程是非常消耗CPU、内存(页表复制)、硬盘IO的;
(2)主节点通过网络将RDB文件发送给从节点,对主从节点的带宽都会带来很大的消耗
(3)从节点清空老数据、载入新RDB文件的过程是阻塞的,无法响应客户端的命令;如果从节点执行bgrewriteaof,也会带来额外的消耗
部分复制
- 复制偏移量
主节点和从节点分别维护一个复制偏移量(offset),代表的是主节点向从节点传递的字节数;主节点每次向从节点传播N个字节数据时,主节点的offset增加N;从节点每次收到主节点传来的N个字节数据时,从节点的offset增加N。
- 复制积压缓冲区
是由主节点维护的、固定长度的、先进先出(FIFO)队列,默认大小1MB;当主节点开始有从节点时创建,其作用是备份主节点最近发送给从节点的数据。注意,无论主节点有一个还是多个从节点,都只需要一个复制积压缓冲区。
- 服务器运行ID(runid)
每个Redis节点(无论主从),在启动时都会自动生成一个随机ID(每次启动都不一样),由40个随机的十六进制字符组成;runid用来唯一识别一个Redis节点。
主从节点初次复制时,主节点将自己的runid发送给从节点,从节点将这个runid保存起来;当断线重连时,从节点会将这个runid发送给主节点;主节点根据runid判断能否进行部分复制:
如果从节点保存的runid与主节点现在的runid相同,说明主从节点之前同步过,主节点会继续尝试使用部分复制(到底能不能部分复制还要看offset和复制积压缓冲区的情况);
如果从节点保存的runid与主节点现在的runid不同,说明从节点在断线前同步的Redis节点并不是当前的主节点,只能进行全量复制。
psync命令的执行过程
(1)首先,从节点根据当前状态,决定如何调用psync命令:
如果从节点之前未执行过slaveof或最近执行了slaveof no one,则从节点发送命令为psync ? -1,向主节点请求全量复制;
如果从节点之前执行了slaveof,则发送命令为psync <runid> <offset>,其中runid为上次复制的主节点的runid,offset为上次复制截止时从节点保存的复制偏移量。
(2)主节点根据收到的psync命令,及当前服务器状态,决定执行全量复制还是部分复制:
如果主节点版本低于Redis2.8,则返回-ERR回复,此时从节点重新发送sync命令执行全量复制
如果主节点版本够新,且runid与从节点发送的runid相同,且从节点发送的offset之后的数据在复制积压缓冲区中都存在,则回复+CONTINUE,表示将进行部分复制,从节点等待主节点发送其缺少的数据即可;
如果主节点版本够新,但是runid与从节点发送的runid不同,或从节点发送的offset之后的数据已不在复制积压缓冲区中(在队列中被挤出了),则回复+FULLRESYNC <runid> <offset>,表示要进行全量复制,其中runid表示主节点当前的runid,offset表示主节点当前的offset,从节点保存这两个值,以备使用。