博客
关于我
太全了!Redis主从复制原理以及常见问题总结
阅读量:415 次
发布时间:2019-03-06

本文共 2176 字,大约阅读时间需要 7 分钟。

Redis主从复制详解

在实际项目中,Redis主从复制是高可用和数据冗余的基础配置,但很多小伙伴对其工作流程和常见问题了解不足。本文将从基础到深度,全面解析 Redis 主从复制的关键点。


一、主从复制的概念

主从复制是 Redis 数据同步的核心机制。通过这一机制,一台 Redis 服务器可以将数据同步到另一台服务器。一台服务器通常称为主节点(master),另一台称为从节点(slave)。数据的同步方向是单向的,即从 master 到 slave。

需要注意的是,在实际场景中,每台 Redis 服务器都有可能同时扮演主节点和从节点的角色。例如,slave3 可能同时作为某个 master 的从节点,同时又是另一个 master 的主节点。


二、主从复制的必要性

在实际应用中,单机 Redis 显然存在以下问题:

  • 数据丢失风险:若主节点发生故障,数据可能无法恢复。
  • 内存资源瓶颈:单机无法应对高并发写入,内存利用率接近极限。
  • 为了解决这些问题,主从复制提供了以下优势:

  • 数据冗余:实现了持久化备份,避免数据丢失。
  • 故障恢复:主节点故障时,从节点可快速接手提供服务。
  • 读写分离:主节点负责写操作,从节点专注读取,提升负载能力。
  • 负载均衡:通过多个从节点分担读写压力,提升系统性能。
  • 高可用基础:是 Redis 集群(如哨兵、Redis Sentinel)的核心支持。

  • 三、主从复制的作用

    主从复制的主要作用体现在以下几个方面:

  • 数据冗余:通过持久化技术(如RDB或AOF)实现数据备份。
  • 故障恢复:主节点故障时,从节点可快速切换,保障服务连续性。
  • 读写分离:优化系统性能,适合高并发场景。
  • 负载均衡:通过多个从节点分担读请求,提升系统吞吐量。
  • 高可用保障:为 Redis 集群奠定基础。

  • 四、主从复制的配置

    1. 环境准备

    在 CentOS 7.0 环境下,配置 Redis 4.0 主从复制。默认 Redis 安装路径为 /usr/local/redis,配置文件存储在 /usr/local/redis/data

    2. 配置主从复制

    主节点配置
  • 修改 Redis 配置文件,设置主节点的网络监听地址和端口。
  • 启动 Redis 服务:redis-server redis6380.conf
  • 从节点配置
  • 修改 Redis 配置文件,设置从节点的 slavename 和端口。
  • 启动 Redis 服务:redis-server redis6379.conf
  • 连接设置

    在从节点执行命令:slaveof 127.0.0.1 6379。这样,从节点就与主节点建立了主从关系。

    测试同步

    在主节点执行以下命令,测试数据同步:

    • set kaka 123(主节点写入数据)
    • 在从节点使用 redis-cli -p 6380 连接,执行 info 命令,观察数据是否同步。

    五、主从复制的工作原理

    主从复制分为三个阶段:

  • 连接建立:从节点与主节点建立 TCP 连接。
  • 数据同步:主节点向从节点发送数据。
  • 命令传播:持续同步数据变更,确保数据一致性。
  • 1. 建立连接

    从节点通过 socket 连接到主节点,并在后台发送 ping 命令,确保连接稳定。

    2. 数据同步

    • 全量复制:第一次连接时,主节点生成 RDB 文件,发送给从节点。
    • 部分复制:全量复制完成后,主节点将复制缓冲区中的数据发送给从节点。

    3. 命令传播

    • 主节点将写入的数据变更命令存储在复制缓冲区。
    • 从节点定期发送心跳指令(replconf ack),获取主节点的最新数据。
    • 主节点根据从节点的偏移量和 runid,决定是全量复制还是部分复制。

    六、心跳机制

    心跳机制确保主从节点之间的连接稳定,主要包括以下内容:

  • 主节点心跳

    • 默认每 10 秒发送 ping 命令,检测从节点是否在线。
    • 使用 info replication 查看从节点的连接状态和延迟。
  • 从节点心跳

    • 每秒发送 replconf ack 指令,报告从节点的偏移量和延迟。
    • 主节点根据心跳信息调整复制策略。

  • 七、部分复制的核心要素

  • runid

    • Redis 启动时生成的唯一标识符,40 字符长度。
    • 用于判断是否需要全量复制。
  • 复制积压缓冲区

    • 存储主节点收集的写入命令。
    • 默认大小为 1MB,可以根据需求调整。
  • 复制偏移量

    • 记录主节点和从节点之间的数据同步位置。
    • 用于判断是否需要全量复制或部分复制。

  • 八、主从复制的常见问题

  • 主节点重启

    • 主节点重启后,runid 和偏移量会重置,所有从节点进入全量复制。
  • 网络中断

    • 网络问题可能导致复制缓冲区溢出,引发全量复制。
    • 解决方法:增大复制缓冲区大小,优化网络连接稳定性。
  • 频繁网络抖动

    • 主节点资源占用过高,导致复制效率低下。
    • 解决方法:设置从节点超时释放,优化心跳机制。
  • 数据不一致

    • 网络延迟或多个从节点导致数据不一致。
    • 解决方法:监控主从节点的偏移量,设置 slave-serve-stale-data 参数。
  • 从节点故障

    • 从节点故障时,需要切换到其他从节点或主节点。

  • 九、总结

    本文从基础到深度解析了 Redis 主从复制的核心机制,包括工作流程、心跳机制以及常见问题。通过合理配置和优化,主从复制能够有效保障 Redis 集群的高可用性和数据一致性。

    转载地址:http://sfakz.baihongyu.com/

    你可能感兴趣的文章
    NIFI1.21.0_Mysql到Mysql增量CDC同步中_日期类型_以及null数据同步处理补充---大数据之Nifi工作笔记0057
    查看>>
    NIFI1.21.0_NIFI和hadoop蹦了_200G集群磁盘又满了_Jps看不到进程了_Unable to write in /tmp. Aborting----大数据之Nifi工作笔记0052
    查看>>
    NIFI1.21.0通过Postgresql11的CDC逻辑复制槽实现_指定表多表增量同步_增删改数据分发及删除数据实时同步_通过分页解决变更记录过大问题_02----大数据之Nifi工作笔记0054
    查看>>
    NIFI从MySql中增量同步数据_通过Mysql的binlog功能_实时同步mysql数据_根据binlog实现数据实时delete同步_实际操作04---大数据之Nifi工作笔记0043
    查看>>
    NIFI从MySql中增量同步数据_通过Mysql的binlog功能_实时同步mysql数据_配置binlog_使用处理器抓取binlog数据_实际操作01---大数据之Nifi工作笔记0040
    查看>>
    NIFI从MySql中增量同步数据_通过Mysql的binlog功能_实时同步mysql数据_配置数据路由_实现数据插入数据到目标数据库_实际操作03---大数据之Nifi工作笔记0042
    查看>>
    NIFI从MySql中离线读取数据再导入到MySql中_03_来吧用NIFI实现_数据分页获取功能---大数据之Nifi工作笔记0038
    查看>>
    NIFI从PostGresql中离线读取数据再导入到MySql中_带有数据分页获取功能_不带分页不能用_NIFI资料太少了---大数据之Nifi工作笔记0039
    查看>>
    NIFI同步MySql数据_到SqlServer_错误_驱动程序无法通过使用安全套接字层(SSL)加密与SQL Server_Navicat连接SqlServer---大数据之Nifi工作笔记0047
    查看>>
    Nifi同步过程中报错create_time字段找不到_实际目标表和源表中没有这个字段---大数据之Nifi工作笔记0066
    查看>>
    NIFI大数据进阶_FlowFile拓扑_对FlowFile内容和属性的修改删除添加_介绍和描述_以及实际操作---大数据之Nifi工作笔记0023
    查看>>
    NIFI大数据进阶_NIFI的模板和组的使用-介绍和实际操作_创建组_嵌套组_模板创建下载_导入---大数据之Nifi工作笔记0022
    查看>>
    NIFI大数据进阶_NIFI监控的强大功能介绍_处理器面板_进程组面板_summary监控_data_provenance事件源---大数据之Nifi工作笔记0025
    查看>>
    NIFI大数据进阶_内嵌ZK模式集群1_搭建过程说明---大数据之Nifi工作笔记0015
    查看>>
    NIFI大数据进阶_外部ZK模式集群1_实际操作搭建NIFI外部ZK模式集群---大数据之Nifi工作笔记0017
    查看>>
    NIFI大数据进阶_离线同步MySql数据到HDFS_01_实际操作---大数据之Nifi工作笔记0029
    查看>>
    NIFI大数据进阶_离线同步MySql数据到HDFS_02_实际操作_splitjson处理器_puthdfs处理器_querydatabasetable处理器---大数据之Nifi工作笔记0030
    查看>>
    NIFI大数据进阶_连接与关系_设置数据流负载均衡_设置背压_设置展现弯曲_介绍以及实际操作---大数据之Nifi工作笔记0027
    查看>>
    NIFI数据库同步_多表_特定表同时同步_实际操作_MySqlToMysql_可推广到其他数据库_Postgresql_Hbase_SqlServer等----大数据之Nifi工作笔记0053
    查看>>
    NIFI汉化_替换logo_二次开发_Idea编译NIFI最新源码_详细过程记录_全解析_Maven编译NIFI避坑指南001---大数据之Nifi工作笔记0068
    查看>>