用Go实现Redis之五持久化

2019年9月2日 132次阅读 来源: alphali

写在前面

本文实现的Godis代码版本为：v0.1

Redis持久化方式

RDB持久化

BGSAVE和SAVE命令生成RDB文件，存储数据库信息。当服务器启动，RDB文件也会作为原始数据，加载近服务内存。这里存在一个优先级问题——当AOF持久化是打开状态，优先从AOF文件加载数据、还原数据库状态。

SAVE命令会阻塞服务，而BGSAVE派生独立进程，不会阻塞。同时可以通过选项配置自动执行RDB持久化的周期。

Redis服务端通过记录几个参数（如第一篇提到的server.dirty字段记录了上一次SAVE后经历了多少次数据库修改）维护数据库的修改情况。当周期性的后台操作serverCon执行时，会检查数据库的更新状态是否满足RDB持久化条件，依此保存数据库状态。
注意：RDB的文件对数据库数据的存储，采用的方式是存储键值对。

AOF持久化

前文提到RDB文件保存的是数据本身，而AOF文件存储的是执行的命令转成的协议。可以通过开启Redis的AOF持久化，操作若干命令后，查看appendonly.aof文件了解。
因为是对数据的备份操作，读命令无需记录，只需记录修改型操作。

如果AOF持久化对每次修改命令都计入文件，会多记录一些无效命令。如：

set alpha 123
set alpha 1
set alpha 321
set alpha 123

四条命令是过程，数据库记录的最终值123才是过程的最终结果。
为了避免对同一个key的操作的“无效命令”的记录，Redis有AOF重写机制——读取当前数据状态作为AOF文件要追加的命令记录。

Godis实现AOF持久化

Godis只实现AOF持久化，并且不对命令进行重写归并操作，所有修改操作都会记录进AOF文件。这也意味着，在数据保存阶段，会有很多无效I/O操作；加载阶段，会有很多无效的命令被执行。

数据持久化到磁盘

在Godis的编码中没有使用Redis类似的事件循环，我们在此依赖server.dirty字段作为标识。dirty变化即为持久化的时机。

首先，在命令调用处添加AOF持久化判断，如果dirty变化，则进行持久化：

func call(c *Client, s *Server) {
    dirty := s.Dirty
    c.Cmd.Proc(c, s)
    dirty = s.Dirty - dirty
    if dirty > 0 {//dirty变化 进行持久化
        AppendToFile(s.AofFilename, c.QueryBuf)
    }

}

执行持久化操作的函数AppendToFile也很简单，对文件追加写，并且即刻关闭：

func AppendToFile(fileName string, content string) error {
    // 以只写的模式，打开文件
    f, err := os.OpenFile(fileName, os.O_WRONLY|syscall.O_CREAT, 0644)
    if err != nil {
        log.Println("log file open failed" + err.Error())
    } else {
        n, _ := f.Seek(0, os.SEEK_END)
        _, err = f.WriteAt([]byte(content), n)
    }
    defer f.Close()
    return err
}

最后，在修改型命令（如set命令）的实现处，添加对server.dirty的更新。

func SetCommand(c *Client, s *Server) {
    ···
    s.Dirty++
    ···
}

我们来测试下效果，重新编译godis-server.go，并执行set alpha 123：

《用Go实现Redis之五持久化》

已经成功在文件中写入了命令协议。

服务启动加载数据

持久化数据从文件加载进内存的方式是模拟客户端执行命令，逐条将AOF文件命令发送给服务端。

func LoadData() {
    c := godis.CreateClient()
    pros := core.ReadAof(godis.AofFilename)
    for _, v := range pros {
        c.QueryBuf = string(v)
        err := c.ProcessInputBuffer()
        if err != nil {
            log.Println("ProcessInputBuffer err", err)
        }
        godis.ProcessCommand(c)
    }
}

core.ReadAof将AOF文件读入内存，分条存储。而后的ProcessCommand在set/get命令实现处有介绍，不再说明。

集成测试

关闭服务端，重新启动服务端，直接在客户端执行get alpha，查看是否能获取之前set的值：

《用Go实现Redis之五持久化》

查验AOF文件，没有读命令get相关的记录。

本篇问题

伪客户端执行时不要执行持久化操作，对Client结构增加伪终端标志位，用于持久化判断：

func LoadData() {
    c := godis.CreateClient()
    c.FakeFlag = true
    ···
}

小结

没有下集预告了。
这五篇短文的初衷是记录在学习GO时写的小demo，结果花在其他语言之前的精力超出了预算，所以在那以后也没有再继续开发Godis的新feature。

明天在公司的工作迎来忙碌的项目改造期，趁着今天端午小长假最后一天，了解了V0.1版本。
不过，在不久的将来，也许下个小长假，会将前文提到过的key过期、网络优化、API开发、Stream等新的feature和优化公之于众。
欢迎讨论。

    原文作者：alphali
    原文地址: https://segmentfault.com/a/1190000015315219
    本文转自网络文章，转载此文章仅为分享知识，如有侵权，请联系博主进行删除。
点赞