SpringBoot + Redis Cluster

2023年8月2日 273次阅读

虽然由于Redis大部分情况下不大可能是性能瓶颈，但是系统发展到一定规模，还是有必要对缓存、队列服务进行一些可伸缩性的考虑。

在一台4核8G的服务器上通过redis-benchmark命令进行压测可以看到在类似的硬件条件之下，单机服务的TPS、QPS上限大概是20w左右，

[root@localhost ~]# redis-benchmark 
====== PING_INLINE ======
  100000 requests completed in 0.55 seconds
  50 parallel clients
  3 bytes payload
  keep alive: 1

100.00% <= 0 milliseconds
181818.17 requests per second

...

具体测试结果省略

因此如果整个系统的负载开始逼近这个数量级，那么就可以开始考虑进行Redis集群化了，否则的话，使用双节点的HA就已经足够满足大部分情况了。

Redis 配置

先看完这个，然后就能基于这个搭建一个简单的集群了。
https://redis.io/topics/cluster-tutorial

几个重点是：

  1. 每个进程通过一份redis.conf来启动
# redis.conf
port 7000
cluster-enabled yes
cluster-config-file nodes.conf
cluster-node-timeout 5000
appendonly yes

通过redis-server ./redis.conf 启动进程。

  1. 通过yum install -y ruby rubygems;gem install redis来安装redis-trib.rb的依赖，然后通过./redis-trib.rb脚本来操作集群。
./redis-trib.rb create --replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005
  1. 通过redis-cli的-c参数来选择通过cluster模式进行连接，然后进行各种操作。
$ redis-cli -c -p 7000
redis 127.0.0.1:7000> set foo bar
-> Redirected to slot [12182] located at 127.0.0.1:7002
OK
redis 127.0.0.1:7002> set hello world
-> Redirected to slot [866] located at 127.0.0.1:7000
OK
redis 127.0.0.1:7000> get foo
-> Redirected to slot [12182] located at 127.0.0.1:7002
"bar"
redis 127.0.0.1:7000> get hello
-> Redirected to slot [866] located at 127.0.0.1:7000
"world"

SpringBoot 配置

貌似最新版的SpringBoot是直接支持通过RedisTemplate对象来连接实现配置好的Redis集群的。因此服务启动好之后，应该就可以通过注入的RedisTemplate对象直接进行操作了。

spring.redis.cluster.nodes=127.0.0.1:7000,127.0.0.1:7001,127.0.0.1:7002,127.0.0.1:7003,127.0.0.1:7004,127.0.0.1:7005

当然，在一些早先版本中你可以通过new JedisConnectionFactory(new RedisClusterConfiguration(clusterProperties.getNodes()))来创建对集群的连接。你可以通过Properties注解来读取application.proproties中的配置然后通过Bean注解进行显示注入。

@Component
@ConfigurationProperties(prefix = "spring.redis.cluster")
public class ClusterConfigurationProperties {
    // spring.redis.cluster.nodes=127.0.0.1:7000,127.0.0.1:7001,127.0.0.1:7002,127.0.0.1:7003,127.0.0.1:7004,127.0.0.1:7005
    List<String> nodes;

    public List<String> getNodes() {
        return nodes;
    }

    public void setNodes(List<String> nodes) {
        this.nodes = nodes;
    }
}

@Configuration
public class AppConfig {
    @Autowired
    ClusterConfigurationProperties clusterProperties;

    @Bean
    public RedisConnectionFactory connectionFactory() {
        return new JedisConnectionFactory(new RedisClusterConfiguration(clusterProperties.getNodes()));
    }
}

这样之后，由于你已经将RedisConnectionFactory对象作为Bean注入到Spring容器中，在其他Service或者Controller对象里就可以通过注入的ConnectionFactory对象来获取Connection从而对Redis集群进行操作了。

其他

一些集群的Concept在这里：https://redis.io/topics/cluster-spec 。主要需要知道的是：

  1. 节点间的异步数据复制和last failover wins机制。
  2. 数据的合并操作应该被避免，由于“很大的值”是一种很普遍的情况（例如list和set之类的对象）。
  3. 键分布模型HASH_SLOT = CRC16(key) mod 16384 以及控制分布Slot的方式（hash tags）。
  4. 节点的属性、通信总线、握手方式和重定向机制等。。。
  5. Redis集群服务实现的只是Redis单机服务的一个子集，所以在使用一些“高级功能”之前可能需要先确认下集群版本下的支持度。

其他慢慢补充吧。

点赞