使用docker搭建redis-cluster环境


    临时接到一个测试任务,而测试需要用到redis-cluster环境,却没有现成的环境可用,于是只能自力更生搭建测试环境。一开始想采用在宿主机上硬搭,但苦于没有那么多的服务器,于是决定试试docker。以下为详细搭建步骤:

基础环境信息

  基础环境如下所示:

CentOS Linux release 7.5.1804
Docker version 18.09.4

  以下操作均在root用户下面操作,如果是非root用户,需要在各命令前面添加sudo

搭建步骤

  • 1、下载redis镜像

docker pull redis

  如果需要拉取指定版本,需要在redis后面添加版本号,如果不指定则拉取最新版本镜像,可以使用docker search redis来搜索镜像

01 dockerSearchRedis.png

  查看本地镜像,可以使用命令docker images

02ShowLocalImages.png

  • 2、创建虚拟网卡

  创建虚拟网卡,主要是用于redis-cluster能于外界进行网络通信,一般常用桥接模式。

docker network create redis-net

  查看docker的网卡信息,可使用命令docker network ls

03ShowDockerNetwork.png

  查看dockerr网络详细信息,可使用命令docker network inspect redis-net

04InspectNICInfo.png

  • 3、创建redis配置文件模板

mkdir -p /home/redis-cluster
cd /home/redis-cluster
vim redis-cluster.tmpl

在redis-cluster.tmpl中输入以下内容

port ${PORT}
cluster-enabled yes
cluster-config-file nodes.conf
cluster-node-timeout 5000
cluster-announce-ip 192.168.168.131
cluster-announce-port ${PORT}
cluster-announce-bus-port 1${PORT}
appendonly yes

各节点解释如下所示:

  • port:节点端口,即对外提供通信的端口
  • cluster-enabled:是否启用集群
  • cluster-config-file:集群配置文件
  • cluster-node-timeout:连接超时时间
  • cluster-announce-ip:集群各节点IP地址
  • cluster-announce-port:集群节点映射端口
  • cluster-announce-bus-port:集群总线端口
  • appendonly:持久化模式

cluster-announce-ip:这个IP需要特别注意一下,如果要对外提供访问功能,需要填写宿主机的IP,如果填写docker分配的IP(172.x.x.x),可能会导致部分集群节点在跳转时失败。

  • 4、创建节点配置文件

  在redis-cluser中执行以下命令

for port in $(seq 8010 8015); \
do \
  mkdir -p ./${port}/conf  \
  && PORT=${port} envsubst < ./redis-cluster.tmpl > ./${port}/conf/redis.conf \
  && mkdir -p ./${port}/data; \
done

  验证上述命令执行的结果是否正确

05CheckConfigFile.png

06CheckRedisConf.png

  • 5、创建redis节点容器

  执行以下命令即可

for port in $(seq 8010 8015); \
do \
   docker run -it -d -p ${port}:${port} -p 1${port}:1${port} \
  --privileged=true -v /home/redis-cluster/${port}/conf/redis.conf:/usr/local/etc/redis/redis.conf \
  --privileged=true -v /home/redis-cluster/${port}/data:/data \
  --restart always --name redis-${port} --net redis-net \
  --sysctl net.core.somaxconn=1024 redis redis-server /usr/local/etc/redis/redis.conf; \
done

  验证容器是否创建成功

07CreateRedisContainers.png

  查看docker给每个节点分配的IP信息

08ShowInternalIP.png

  • 6、创建redis-cluster集群

  进入一个容器节点

docker exec -it redis-8010 bash

  在进入容器后,执行以下命令:

cd /usr/local/bin/

redis-cli --cluster create 192.168.168.131:8010 192.168.168.131:8011 192.168.168.131:8012 192.168.168.131:8013 192.168.168.131:8014 192.168.168.131:8015

出现选择提示信息,输入yes,结果如下所示:

09CreateRedisCluster.png

  • 7、连接redis-cluster,并添加数据到redis

在节点8010中输入以下命令

redis-cli -c -h 192.168.168.131 -p 8010

10SetValueForRedis.png

  • 8、验证集群是否可以任意地方访问

以下验证是基于Windows版本的redis。其下载地址如下:

https://github.com/microsoftarchive/redis/releases

在Windows中验证的结果如下所示:

11TestRedisCluster.png

搭建中遇到的问题

  • 1、所有都搭建完成后,在创建redis-cluster时一直报错

Could not connect to Redis at 192.168.168.131:8010: No route to host

这个原因是因为宿主机的防火墙未关,导致相应的端口被阻止,创建的时候临时关闭防火墙,后面再允许相应的端口即可。
  • 2、在成功创建完redis-cluster后,可以成功连接,但在获取值时,一直处于跳转中,导致最终出现TTL exhaust

-> Redirected to slot [15495] located at 172.18.0.7:8015

这种情况通常是因为在前面写配置文件,将cluster-announce-ip写成了docker分配的IP,只需要将该IP换为宿主机的IP即可。

其他参考

    在搭建过程,可能在出现问题后,需要停止或直接删除docker容器,可以使用以下参考命令

批量停止docker 容器:

docker ps -a | grep -i "redis-801*" | awk '{print $1}' | xargs docker stop

批量删除docker 容器:

docker ps -a | grep -i "redis-801*" | awk '{print $1}' | xargs docker rm -f

批量删除文件

rm -rf 801{0..5}/conf/redis.conf

    以上就是基于docker搭建redis-cluster的简单步骤,实际应用中可能并没有这么简单,该文也仅用于参考。

本文同步在微信订阅号上发布,如各位小伙伴们喜欢我的文章,也可以关注我的微信订阅号:woaitest,或扫描下面的二维码添加关注:
MyQRCode.jpg

posted @ 2019-11-10 23:41  Surpassme  阅读(4892)  评论(2编辑  收藏  举报