12. Redis分布式高可用集群搭建

这篇具有很好参考价值的文章主要介绍了12. Redis分布式高可用集群搭建。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

Redis分布式高可用集群搭建

2020年发布的Redis6.0是Redis自发布以来最大的升级,提供了多线程支持,ACLs细粒度的权限管理,SSL加密,客户端缓存,集群代理等多项重大更新

一、redis集群有三种方式:

主从复制,哨兵,集群(master-cluster)文章来源地址https://www.toymoban.com/news/detail-630878.html

1. 主从模式

主从关系,简单说是以主库为准,从库内容异步复制主数据库,从而达成主从内容基本一致的情况。master节点挂了以后,redis就不能对外提供写服务了,此模式不推荐

2. 哨兵

哨兵模式是基于主从模式的,比主从多了自动切换,系统更健壮,可用性更高 ,但是较难支持在线扩容,单机瓶颈尤为突出,此模式不推荐

3. 集群(master-cluster)

解决单机性能瓶颈,支持横向扩展,节点故障转移,真正实习系统高可用,此模式推荐集群(master-cluster)最低配置,两个副本三个分片,那么至少需要6个节点,压缩至两个节点一台机器,那么至少需要3台服务器,低于3台无法实现高可用集群,建议6台

redis1	10.1.10.204	主	8001
redis2	10.1.10.205	主	8002
redis3	10.1.10.206	主	8003
redis4	10.1.10.204	备	8004
redis5	10.1.10.205	备	8005
redis6	10.1.10.206	备	8006

二、基于centos7操作系统操做

1. 关闭防火墙,三台机器都执行

systemctl stop firewalld
systemctl disable firewalld

2. hostname修改,三台机器都执行,这一步是为了在内网中三台服务器能相互连通

vi /etc/hosts
10.1.10.204 r1
10.1.10.205 r2
10.1.10.206 r3

3. 免登陆,三台机器都执行

ssh-keygen -t rsa
ssh-copy-id 10.1.10.204
ssh-copy-id 10.1.10.205
ssh-copy-id 10.1.10.206

4. 安装gcc并升级

yum install readline-devel pcre-devel openssl-devel gcc
yum -y install centos-release-scl
yum -y install devtoolset-9-gcc devtoolset-9-gcc-c++ devtoolset-9-binutils
scl enable devtoolset-9 bash
echo "source /opt/rh/devtoolset-9/enable" >>/etc/profile

5. 下载redis,在三台机器上都执行

mkdir -vp /u01/soft
cd /u01/soft/
wget https://download.redis.io/releases/redis-6.0.9.tar.gz 
tar zxf redis-6.0.9.tar.gz
cd redis-6.0.9
make MALLOC=libc
make PREFIX=/usr/local/redis install

6.创建目录

在204服务器执行:
mkdir /u01/redis-cluster
cd /u01/redis-cluster/
mkdir redis01
mkdir redis04
mkdir /usr/local/redis-cluster
cd /usr/local/redis-cluster
mkdir redis01
mkdir redis04
cp /u01/soft/redis-6.0.9/redis.conf /usr/local/redis-cluster/redis01
cp /u01/soft/redis-6.0.9/redis.conf /usr/local/redis-cluster/redis04
cp /u01/soft/redis-6.0.9/src/redis-server /usr/local/redis-cluster/redis01
cp /u01/soft/redis-6.0.9/src/redis-server /usr/local/redis-cluster/redis04

在205服务器执行:
mkdir /u01/redis-cluster
cd /u01/redis-cluster/
mkdir redis02
mkdir redis05
mkdir /usr/local/redis-cluster
cd /usr/local/redis-cluster
mkdir redis02
mkdir redis05
cp /u01/soft/redis-6.0.9/redis.conf /usr/local/redis-cluster/redis02
cp /u01/soft/redis-6.0.9/redis.conf /usr/local/redis-cluster/redis05
cp /u01/soft/redis-6.0.9/src/redis-server /usr/local/redis-cluster/redis02
cp /u01/soft/redis-6.0.9/src/redis-server /usr/local/redis-cluster/redis05

在206服务器执行:
mkdir /u01/redis-cluster
cd /u01/redis-cluster/
mkdir redis03
mkdir redis06
mkdir /usr/local/redis-cluster
cd /usr/local/redis-cluster
mkdir redis03
mkdir redis06
cp /u01/soft/redis-6.0.9/redis.conf /usr/local/redis-cluster/redis03
cp /u01/soft/redis-6.0.9/redis.conf /usr/local/redis-cluster/redis06
cp /u01/soft/redis-6.0.9/src/redis-server /usr/local/redis-cluster/redis03
cp /u01/soft/redis-6.0.9/src/redis-server /usr/local/redis-cluster/redis06

7. 修改配置,三台机器都要对应修改,对应开头的表格

$ vim redis01/redis.conf

#是否开启保护模式,默认开启。要是配置里没有指定bind和密码。开启该参数后,redis只会本地进行访问,拒绝外部访问。
protected-mode no
#redis监听的端口号
port 8001
#是否在后台执行,yes:后台运行;no:不是后台运行
daemonize yes
#redis的进程文件
pidfile /var/run/redis_8001.pid
# 指定了记录日志的文件。空字符串的话,日志会打印到标准输出设备。后台运行的redis标准输出是/dev/null
logfile /u01/redis-cluster/redis01/redis_8001.log
# 指定本地数据库文件名,一般采用默认的 dump.rdb
# dbfilename /u01/redis-cluster/redis01/dump-8001.rdb
# 数据目录,数据库的写入会在这个目录。rdb、aof文件也会写在这个目录
dir /u01/redis-cluster/redis04/
# 集群
cluster-enabled yes
# 生成的node文件,不过不指定名称则直接为nodes.conf。在同一台服务器上启动第二个实列的时候就会报错。因为nodes.conf文件发生冲突
cluster-config-file nodes-8001.conf
appendonly yes
appendfilename "appendonly-8001.aof"

8. 启动并且创建集群

分别启动6个节点 
./redis-server redis.conf
创建集群 ./redis-cli --cluster create 10.1.10.204:8001 10.1.10.205:8002 10.1.10.206:8003 10.1.10.205:8005 10.1.10.206:8006 10.1.10.204:8004 --cluster-replicas 1

9. 集群节点信息

./redis-cli -h 10.1.10.204 -p 8004 cluster nodes                             
d148088d84486a5cc98d34df2003e80eac1c2c97 10.1.10.205:8005@18005 slave ed308cac5868f5284340fa96320453748d4c11c2 0 1605686204000 1 connected
70d624e48b69c0ab1c3f041bde83cca4ad3c2865 10.1.10.204:8004@18004 myself,slave 1a8e7da0488175a103c6b714e8e87410c326b868 0 1605686204000 3 connected
874a8cd728fc4134271863b6f71365d61da00659 10.1.10.206:8006@18006 slave 4bd9f8bac50539b6435c72ebc6b5a448ebbedcef 0 1605686204645 2 connected
ed308cac5868f5284340fa96320453748d4c11c2 10.1.10.204:8001@18001 master - 0 1605686205647 1 connected 0-5460
4bd9f8bac50539b6435c72ebc6b5a448ebbedcef 10.1.10.205:8002@18002 master - 0 1605686203000 2 connected 5461-10922
1a8e7da0488175a103c6b714e8e87410c326b868 10.1.10.206:8003@18003 master - 0 1605686204000 3 connected 10923-16383

10. 查看集群状态

./redis-cli -h 10.1.10.204 -p 8001 cluster info                              
cluster_state:ok
cluster_slots_assigned:16384
cluster_slots_ok:16384
cluster_slots_pfail:0
cluster_slots_fail:0
cluster_known_nodes:6
cluster_size:3
cluster_current_epoch:6
cluster_my_epoch:1
cluster_stats_messages_ping_sent:1861
cluster_stats_messages_pong_sent:1866
cluster_stats_messages_sent:3727
cluster_stats_messages_ping_received:1861
cluster_stats_messages_pong_received:1861
cluster_stats_messages_meet_received:5
cluster_stats_messages_received:3727

11. 查看节点内存、cpu、key数量等信息

./redis-cli -h 10.1.10.204 -p 8004 info                                      
# Server
redis_version:6.0.9
redis_git_sha1:00000000
redis_git_dirty:0
redis_build_id:e0eeddaa7861f7a5
redis_mode:cluster
os:Linux 3.10.0-1127.el7.x86_64 x86_64
arch_bits:64
multiplexing_api:epoll
atomicvar_api:atomic-builtin
gcc_version:9.3.1
process_id:8495
run_id:afe2d5b775ad69688a70dfbb9406b6549cd2bf7c
tcp_port:8004
uptime_in_seconds:2212
uptime_in_days:0
hz:10
configured_hz:10
lru_clock:11850857
executable:/usr/local/redis-cluster/redis04/./redis-server
config_file:/usr/local/redis-cluster/redis04/redis.conf
io_threads_active:0

# Clients
connected_clients:4
client_recent_max_input_buffer:8
client_recent_max_output_buffer:0
blocked_clients:0
tracking_clients:0
clients_in_timeout_table:0

# Memory
used_memory:2703376
used_memory_human:2.58M
used_memory_rss:18468864
used_memory_rss_human:17.61M
used_memory_peak:2703376
used_memory_peak_human:2.58M
used_memory_peak_perc:100.05%
used_memory_overhead:2570664
used_memory_startup:1460576
used_memory_dataset:132712
used_memory_dataset_perc:10.68%
allocator_allocated:2799904
allocator_active:3207168
allocator_resident:6090752
total_system_memory:16656355328
total_system_memory_human:15.51G
used_memory_lua:37888
used_memory_lua_human:37.00K
used_memory_scripts:0
used_memory_scripts_human:0B
number_of_cached_scripts:0
maxmemory:0
maxmemory_human:0B
maxmemory_policy:noeviction
allocator_frag_ratio:1.15
allocator_frag_bytes:407264
allocator_rss_ratio:1.90
allocator_rss_bytes:2883584
rss_overhead_ratio:3.03
rss_overhead_bytes:12378112
mem_fragmentation_ratio:7.00
mem_fragmentation_bytes:15828952
mem_not_counted_for_evict:0
mem_replication_backlog:1048576
mem_clients_slaves:0
mem_clients_normal:61504
mem_aof_buffer:8
mem_allocator:jemalloc-5.1.0
active_defrag_running:0
lazyfree_pending_objects:0

# Persistence
loading:0
rdb_changes_since_last_save:0
rdb_bgsave_in_progress:0
rdb_last_save_time:1605684165
rdb_last_bgsave_status:ok
rdb_last_bgsave_time_sec:-1
rdb_current_bgsave_time_sec:-1
rdb_last_cow_size:0
aof_enabled:1
aof_rewrite_in_progress:0
aof_rewrite_scheduled:0
aof_last_rewrite_time_sec:0
aof_current_rewrite_time_sec:-1
aof_last_bgrewrite_status:ok
aof_last_write_status:ok
aof_last_cow_size:2252800
module_fork_in_progress:0
module_fork_last_cow_size:0
aof_current_size:92
aof_base_size:92
aof_pending_rewrite:0
aof_buffer_length:0
aof_rewrite_buffer_length:0
aof_pending_bio_fsync:0
aof_delayed_fsync:0

# Stats
total_connections_received:9
total_commands_processed:319
instantaneous_ops_per_sec:0
total_net_input_bytes:5222
total_net_output_bytes:433184
instantaneous_input_kbps:0.00
instantaneous_output_kbps:0.02
rejected_connections:0
sync_full:0
sync_partial_ok:0
sync_partial_err:0
expired_keys:0
expired_stale_perc:0.00
expired_time_cap_reached_count:0
expire_cycle_cpu_milliseconds:0
evicted_keys:0
keyspace_hits:0
keyspace_misses:0
pubsub_channels:0
pubsub_patterns:0
latest_fork_usec:705
migrate_cached_sockets:0
slave_expires_tracked_keys:0
active_defrag_hits:0
active_defrag_misses:0
active_defrag_key_hits:0
active_defrag_key_misses:0
tracking_total_keys:0
tracking_total_items:0
tracking_total_prefixes:0
unexpected_error_replies:0
total_reads_processed:327
total_writes_processed:2236
io_threaded_reads_processed:0
io_threaded_writes_processed:0

# Replication
role:slave
master_host:10.1.10.206
master_port:8003
master_link_status:up
master_last_io_seconds_ago:4
master_sync_in_progress:0
slave_repl_offset:2982
slave_priority:100
slave_read_only:1
connected_slaves:0
master_replid:2f4df65f8ad840253afb0fb57cf51a4fdbc9eed3
master_replid2:0000000000000000000000000000000000000000
master_repl_offset:2982
second_repl_offset:-1
repl_backlog_active:1
repl_backlog_size:1048576
repl_backlog_first_byte_offset:1
repl_backlog_histlen:2982

# CPU
used_cpu_sys:0.928872
used_cpu_user:1.269668
used_cpu_sys_children:0.001825
used_cpu_user_children:0.000000

# Modules

# Cluster
cluster_enabled:1

# Keyspace

12. 集群代理

git clone https://github.com/artix75/redis-cluster-proxy
cd redis-cluster-proxy
make PREFIX=/usr/local/redis_cluster_proxy install 
./bin/redis-cluster-proxy -c ./proxy.conf

到了这里,关于12. Redis分布式高可用集群搭建的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Zookeeper+Hadoop+Spark+Flink+Kafka+Hbase+Hive 完全分布式高可用集群搭建(保姆级超详细含图文)

    说明: 本篇将详细介绍用二进制安装包部署hadoop等组件,注意事项,各组件的使用,常用的一些命令,以及在部署中遇到的问题解决思路等等,都将详细介绍。 ip hostname 192.168.1.11 node1 192.168.1.12 node2 192.168.1.13 node3 1.2.1系统版本 1.2.2内存建议最少4g、2cpu、50G以上的磁盘容量 本次

    2024年02月12日
    浏览(53)
  • hadoop完全分布式集群搭建(超详细)-大数据集群搭建

    本次搭建完全分布式集群用到的环境有: jdk1.8.0 hadoop-2.7.7 本次搭建集群所需环境也给大家准备了,下载链接地址:https://share.weiyun.com/dk7WgaVk 密码:553ubk 本次完全分布式集群搭建需要提前建立好三台虚拟机,我分别把它们的主机名命名为:master,slave1,slave2 一.配置免密登陆 首先

    2024年02月10日
    浏览(52)
  • Redis从入门到精通(十三)Redis分布式缓存(一)RDB和AOF持久化、Redis主从集群的搭建与原理分析

    单机Redis存在四大问题: 1)数据丢失问题; 2)并发能力问题; 3)故障恢复问题; 4)存储能力问题。 而Redis分布式缓存,即基于Redis集群来解决单机Redis存在的问题: 1)数据丢失问题:实现Redis数据持久化; 2)并发能力问题:搭建主从集群,实现读写分离; 3)故障恢复问

    2024年04月12日
    浏览(41)
  • 大数据内容分享(九):Hadoop-生产集群搭建(完全分布式)

    目录 Hadoop运行模式——完全分布式 1、准备3台虚拟机(关闭防火墙、配置静态IP 和 主机名称) 2、安装JDK 和 Hadoop 并配置JDK和Hadoop的环境变量 3、配置完全分布式集群 4、集群配置 1)集群部署规划 2)配置文件说明 3)配置集群 5、集群启动 与 测试 1)workers的配置 2)启动集

    2024年02月21日
    浏览(100)
  • 大数据开发·关于虚拟机Hadoop完全分布式集群搭建教程

    官网链接 进入后网站如图,各位按需下载 官网链接 进入页面点击下载 再根据我们需要下载的软件进入下载页面 点击右侧红框内的免费授权页面获取免费许可 进入后如图,两者我们都需要所以都勾选,填写的邮箱用于接收下载链接,下载后进行安装即可 这里先和大家强调一

    2024年02月07日
    浏览(47)
  • redis集群和分片-Redis Cluster:分布式环境中的数据分片、主从复制和 Sentinel 哨兵

    当涉及到 Redis 中的集群、分片、主从复制和 Sentinel 哨兵时,这些是构建分布式 Redis 环境中非常重要的概念和组件。下面详细介绍这些概念以及它们在分布式环境中的作用。 Redis Cluster 是 Redis 官方提供的分布式解决方案,用于管理和维护多个 Redis 节点的分布式数据存储。R

    2024年02月13日
    浏览(61)
  • 大数据开源框架环境搭建(七)——Spark完全分布式集群的安装部署

    前言:七八九用于Spark的编程实验 大数据开源框架之基于Spark的气象数据处理与分析_木子一个Lee的博客-CSDN博客_spark舆情分析 目录 实验环境: 实验步骤: 一、解压 二、配置环境变量:  三、修改配置文件  1.修改spark-env.sh配置文件: 2.修改配置文件slaves: 3.分发配置文件:

    2024年02月11日
    浏览(54)
  • 大数据开源框架环境搭建(五)——Hbase完全分布式集群的安装部署

    目录 实验环境: 实验步骤: 〇、Zookeeper安装配置: 一、安装前注意事项 二、HBase安装  三、Hbase集群配置 1.配置hbase-env.sh文件,位于Hbase安装目录/conf/ 2.配置hbase-site.xml文件,位于Hbase安装目录/conf/ 3.配置regionservers 4.新建 backup-masters文件,添加备份HMaster机器名 四、将配置好

    2024年02月08日
    浏览(45)
  • 大数据开源框架环境搭建(四)——HDFS完全分布式集群的安装部署

    前言:本实验的所有路径均为本人计算机路径,有些路径需要看自己的,跟着我的一起做最好。普通用户下大部分命令需要加sudo,root模式下不用。如果怕麻烦,直接在root用户下操作。 目录 实验环境: 实验步骤: 一、配置NAT网络 ,分配静态IP地址 1.打开VMware,选择编辑,

    2024年02月05日
    浏览(56)
  • 微服务---分布式多级缓存集群实现方案(Caffeine+redis+nginx本地缓存+Canal数据同步)

    传统的缓存策略一般是请求到达Tomcat后,先查询Redis,如果未命中则查询数据库,如图: 存在下面的问题: •请求要经过Tomcat处理,Tomcat的性能成为整个系统的瓶颈 •Redis缓存失效时,会对数据库产生冲击 多级缓存就是充分利用请求处理的每个环节,分别添加缓存,减轻T

    2024年02月12日
    浏览(41)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包