Redis的主从复制

什么是Redis的主从复制

主从复制,是指将一台Redis服务器的数据,复制到其他的Redis服务器。前者称为主节点(master),后者称为从节点(slave);数据的复制是单向的,只能由主节点到从节点。

默认情况下,每台Redis服务器都是主节点;且一个主节点可以有多个从节点(或没有从节点),但一个从节点只能有一个主节点。

主从复制的作用

主从复制是Redis高可用的基础,主要的作用的故障恢复。当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复

主从复制的开启

主从复制的开启,完全是在从节点发起的;不需要我们在主节点做任何事情
在从服务器的配置文件中加入:

slaveof <masterip> <masterport>

主从复制的测试

在同一台机器是部署主节点和从节点

在centos安装redis

yum install redis
默认的配置文件在/etc/redis.conf
启动时报错,根据日志里的提示修改
把下面的命令添加到/etc/sysctl.conf 文件:

vm.overcommit_memory = 1
net.core.somaxconn = 2048

把下面的命令添加到/etc/rc.local 文件:

echo never > /sys/kernel/mm/transparent_hugepage/enabled

重启系统

部署

master的配置文件修改:

复制/etc/redis.conf到/etc/redis/6379.conf

修改6379.conf文件

daemonize yes

启动:
redis-server /etc/redis/6379.conf

查看日志:
tail -f /var/log/redis/redis.log

slave的配置文件修改
复制/etc/redis/6379.conf到/etc/redis/6380.conf
修改:

port 6380
daemonize yes
pidfile /var/run/redis_6380.pid
dbfilename slave_dump.rdb
appendfilename "slave_appendonly.aof"
slaveof 127.0.0.1 6379

启动:
redis-server /etc/redis/6380.conf

测试

连接上主节点

[root@VM_0_4_centos ~]# redis-cli -h 127.0.0.1 -p 6379
127.0.0.1:6379> get hello
(nil)
127.0.0.1:6379> set hello world
OK

连接上从节点

[root@VM_0_4_centos ~]# redis-cli -h 127.0.0.1 -p 6380
127.0.0.1:6380> get hello
"world"

可以看到从机上有主机同步过来的数据

主从复制原理

全量复制

1.主节点收到全量复制的命令后,执行bgsave,在后台生成RDB文件,并使用复制缓冲区记录从现在开始执行的所有写命令

2.主节点的bgsave执行完成后,将RDB文件发送给从节点

3.从节点首先清除自己的旧数据,然后载入接收的RDB文件,将数据库状态更新至主节点执行bgsave时的数据库状态

4.主节点将前述复制缓冲区中的所有写命令发送给从节点,从节点执行这些写命令,将数据库状态更新至主节点的最新状态

5.如果从节点开启了AOF,则会触发bgrewriteaof的执行,从而保证AOF文件更新至主节点的最新状态

通过全量复制的过程可以看出,全量复制是非常重型的操作:

(1)主节点通过bgsave命令fork子进程进行RDB持久化,该过程是非常消耗CPU、内存(页表复制)、硬盘IO的;

(2)主节点通过网络将RDB文件发送给从节点,对主从节点的带宽都会带来很大的消耗

(3)从节点清空老数据、载入新RDB文件的过程是阻塞的,无法响应客户端的命令;如果从节点执行bgrewriteaof,也会带来额外的消耗

部分复制

  • 复制偏移量

主节点和从节点分别维护一个复制偏移量(offset),代表的是主节点向从节点传递的字节数;主节点每次向从节点传播N个字节数据时,主节点的offset增加N;从节点每次收到主节点传来的N个字节数据时,从节点的offset增加N。

  • 复制积压缓冲区

是由主节点维护的、固定长度的、先进先出(FIFO)队列,默认大小1MB;当主节点开始有从节点时创建,其作用是备份主节点最近发送给从节点的数据。注意,无论主节点有一个还是多个从节点,都只需要一个复制积压缓冲区。

  • 服务器运行ID(runid)

每个Redis节点(无论主从),在启动时都会自动生成一个随机ID(每次启动都不一样),由40个随机的十六进制字符组成;runid用来唯一识别一个Redis节点。

主从节点初次复制时,主节点将自己的runid发送给从节点,从节点将这个runid保存起来;当断线重连时,从节点会将这个runid发送给主节点;主节点根据runid判断能否进行部分复制:
如果从节点保存的runid与主节点现在的runid相同,说明主从节点之前同步过,主节点会继续尝试使用部分复制(到底能不能部分复制还要看offset和复制积压缓冲区的情况);
如果从节点保存的runid与主节点现在的runid不同,说明从节点在断线前同步的Redis节点并不是当前的主节点,只能进行全量复制。

psync命令的执行过程

(1)首先,从节点根据当前状态,决定如何调用psync命令:
如果从节点之前未执行过slaveof或最近执行了slaveof no one,则从节点发送命令为psync ? -1,向主节点请求全量复制;

如果从节点之前执行了slaveof,则发送命令为psync <runid> <offset>,其中runid为上次复制的主节点的runid,offset为上次复制截止时从节点保存的复制偏移量。

(2)主节点根据收到的psync命令,及当前服务器状态,决定执行全量复制还是部分复制:

如果主节点版本低于Redis2.8,则返回-ERR回复,此时从节点重新发送sync命令执行全量复制

如果主节点版本够新,且runid与从节点发送的runid相同,且从节点发送的offset之后的数据在复制积压缓冲区中都存在,则回复+CONTINUE,表示将进行部分复制,从节点等待主节点发送其缺少的数据即可;

如果主节点版本够新,但是runid与从节点发送的runid不同,或从节点发送的offset之后的数据已不在复制积压缓冲区中(在队列中被挤出了),则回复+FULLRESYNC <runid> <offset>,表示要进行全量复制,其中runid表示主节点当前的runid,offset表示主节点当前的offset,从节点保存这两个值,以备使用。

参考链接

http://www.cnblogs.com/kismetv/p/9236731.html

    原文作者:莫小鹏
    原文地址: https://www.jianshu.com/p/7979f1edb346
    本文转自网络文章,转载此文章仅为分享知识,如有侵权,请联系博主进行删除。
点赞