最近在整理redis分布式集群，首先就整理一下分布式算法原理。常见的分区规则有哈希分区和顺序分区两种，Redis采用的是哈希分区规则。节点取余分区使用特定的数据，如Redis的键或用户ID为key，节点数量为N，则：hash(key)%N，计算出哈希值，然后决定映射到哪个节点上，如节点数为4时，哈希值的结果可能为0、1、2，3. 现假设有4个redis节点，HashCode值为1~20的20个数
转载
2024-04-08 21:53:36
28阅读
一致性hash算法--负载均衡有没有好奇过redis、memcache等是怎么实现集群负载均衡的呢？其实他们都是通过一致性hash算法实现节点调度的。一、Redis集群的使用我们在使用Redis的时候，为了保证Redis的高可用，提高Redis的读写性能，最简单的方式我们会做主从复制，组成Master-Master或者Master-Slave的形式，或者搭建RedisCluster集群，进行数据的
转载
2023-11-02 07:49:56
56阅读
单机、单点、单实例缺点：1.单点故障 2.容量有限 3. 压力强一致性主从复制、读写分离会带来数据一致性问题1.通过强一致性来解决，即主redis 进行阻塞，直到从redis写成功。弱一致性强一致性带来阻塞问题，可能会等待很久1.通过异步方式解决强一致性问题，但是会丢失一部分数据最终数据一致性弱一致性会带来数据丢失问题1.通过类似kafka 可靠集群来保证最终数据一致性&n
转载
2023-09-03 11:43:29
260阅读
Redis Cluster无法保证强一致性。实际上，这意味着在某些条件下，Redis Cluster可能会丢失系统向客户端确认的写入。Redis Cluster可能丢失写入的第一个原因是它使用异步复制。这意味着在写入期间会发生以下情况：您的客户端写入主B.主人B向您的客户回复确定。主设备B将写入传播到其从设备B1，B2和B3。正如你所看到的，B在回复客户端之前并没有等待来自B1，B2，B3的确认，
转载
2023-08-15 22:40:55
82阅读
首先需要明确的是，Redis是不能保证强一致性的。原因有以下两点： （1）Redis集群是异步复制，为了保证性能，客户端请求写入master后，master先回复客户端，然后才将写操作复制给slave。同步期间如果master宕机，slave升为主的期间就会丢失部分数据。 &n
转载
2023-05-25 16:59:05
204阅读
在很多集群架构中，为了保证集群数据的一致性，都会使用一致性哈希算法，因为一致性哈希算法，可以保证无论是增加节点，还是减少节点，被影响的数据都是一小部分数据。不过，Redis集群例外，Redis 集群没有使用一致性哈希，取而代之的是引入了哈希槽的概念。哈希槽是Redis真正保存数据的地方。 Redis 集群有16384个哈希槽，每个要保存到Redis的键值对，都会先通过CRC1
转载
2023-08-18 10:44:38
85阅读
主从机制基本原理CAP原理：Consistent：一致性Availability：可用性Partition tolerance：分区容忍性网络分区：分布式节点网络断开的场景。CAP基本原理是：当网络分区发生时，不能同时保证一致性和可用性。redis支持主从同步和从从同步： replicatereplicatereplicatereplicate
master
概述Hash一致性 是什么？怎么用？为什么？从历史的角度来一步步分析，探讨一下到底什么是Hash一致性算法！请看官往下品尝。。。一、Redis集群使用从一个Redis使用案例说起我们在使用Redis的时候，为了保证Redis的高可用，提高Redis的读写性能，最简单的方式我们会做主从复制，组成Master-Master或者Master-Slave的形式，或者搭建Redis集群，进行数据的读写分离，
转载
2023-08-10 23:28:32
38阅读
之前已经介绍了一些redis的基本特性。这里介绍下主从复制与集群工作方式。主从复制为保证redis的高可用性，一般都会跟其他中间件一样进行主从复制。比如kafka是把消息传递、mysql使用binlog。既然涉及到分布式，就不得不提及CAP理论。CAP理论有三点C-Consistent 一致性A-Availability 可用性P-Partition tolerance 分区容忍性也就是说在一个分
转载
2023-08-07 22:49:43
174阅读
先说普通哈希算法：让数据id的哈希值和redis集群的个数取模，得到的是几这个数据就存放在哪个redis服务器上普通哈希算法存在数据迁移的问题，即当集群数量增加或减少，原来数据的key与Redis序号对应的集群关系会改变，可能第一次数据1落在0号Redis上，第二次数据1就落在了2号机器上。这样就会出现”缓存穿透“ 一致性哈希算法一致性哈希算法首先弄了一个虚拟环，环上有n个节点，比如2的
转载
2023-09-18 22:36:10
44阅读
有人说，开源Redis的最终一致性已经能满足大部分应用场景，也有人说，多副本的强一致代价太大，没有必要实现。要笔者说，其实弱一致性已经不满足很多应用场景的诉求。怎么，不信？请听笔者娓娓道来。1. 不一致带来的困扰1.1 秒杀变秒崩分享一个电商秒杀活动中限流器的例子，在电商的秒杀活动中，为了扛住前端对数据库的超大流量冲击，一般使用两种方案来保护系统，一个是缓存，另一个则是限流。缓存这个容易实现，只需
转载
2024-05-16 17:19:30
55阅读
docker进阶（redis主从集群，一致性hash算法）redis主从集群，一致性哈希算法哈希取余分区举例，我们要存储2亿条数据，也就是2亿个k.v。这时候我们单机不行，必须要进行分布式多级，假设我们有3台机器构成一个集群，用户每次读写操作都是根据公式hash(key)%N（N为机器的太熟），计算出哈希值，用来决定数据映射到哪一个节点上。优点：简单粗暴，直接有效，只需要预估好数据，规划好节点；例
转载
2023-08-09 21:52:57
88阅读
一、Hash算法引入--分布式缓存有一个电商平台，需要使用Redis存储商品的图片资源，key为图片名称，value为图片所在服务器的路径。利用随机分配的规则进行分库。总量3000w，以每台服务器存500w的数量，部署12台缓存服务器，并且进行主从复制，架构图如下图：1.Hash算法优化目的是为了每张图片在进行分库时都可以得到特定的服务器。我们共有六台主服务器，计算的公式为：hash(milk.p
转载
2023-06-13 12:45:38
159阅读
redis学习(八)集群Redis Cluster是redis的分布式解决方案，采用cluster架构能打倒负载均衡的目的。数据分布数据分布理论分布式数据库首先要解决把整个数据集按照分区规则映射到多个节点的问题，即把数据集划分到多个节点上，每个节点负责整体数据的一个子集。重点是数据分区规则graph TB
item1(全量规则)-->item2(分区规则)
subgraph 分布式存储数据分
转载
2023-08-08 11:32:27
109阅读
一、hash一致性hash一致性作为散列算法1、hash取余的缺点考虑分布式缓存中的数据分片过程的哈希取余的缺点（两点）：（1）数据倾斜 只要是散列算法.必定数据倾斜（散列是无关系、无规律的）没有办法用算法做到平均，但是可以尽量减少数据倾斜。
转载
2023-05-29 08:55:08
372阅读
分布式缓存集群的访问模型现在通常使用Redis来做分布式缓存，下面我们就以Redis为例： 假如当前我们系统的业务发展很快，需要缓存的数据很多，所以我们做了一个由三组主从复制的redis组成的高可用的redis集群，如何将请求路由的不同的redis集群上，这是我们需要考虑的，常用的路由算法：随机算法：每次将请求随机的发送到其中一组Redis集群中，这种算法的好处是请求会被均匀的分发到每
转载
2023-07-28 15:17:26
43阅读
如果有热点数据,哈希取模如何数据比较集中，那么就给分区算法增加点随机数。 一致性哈希算法是分布式系统中常用的算法。比如，一个分布式的存储系统，要将数据存储到具体的节点上，如果采用普通的hash方法，将数据映射到具体的节点上，如key%N，key是数据的key，N是机器节点数，如果有一个机器加入或退出这个集群，则所有的数据映射都无效了，如果是持久化存储则
转载
2023-08-21 09:31:49
59阅读
一、算法背景一致性哈希算法在1997年由麻省理工学院的Karger等人在解决分布式Cache中提出的，设计目标是为了解决因特网中的热点(Hot spot)问题，初衷和CARP十分类似。一致性哈希修正了CARP使用的简单哈希算法带来的问题，使得DHT可以在P2P环境中真正得到应用。二、应用场景现在一致性hash算法在分布式系统中也得到了广泛应用，分布式系统中涉及到集群部署，包括缓存Redis集群，数
转载
2023-08-17 11:16:23
56阅读
分布式部署下Redis缓存与数据库不一致 文章目录分布式部署下Redis缓存与数据库不一致前言一、缓存不一致场景1. 先更新数据库，进行redis缓存的更新（mysqlUpdate – redisUpdate）2. 先删除缓存在，在更新数据库(redisDelete - mysqlUpdate )3. 先更新数据库，进行redis缓存的删除 (mysqlUpdate – redisDelete)总
转载
2023-06-13 15:33:53
211阅读
工具类：不重复造轮子,找了几个现成的工具包：1.ShardedJedisPool目前Redis实现集群的方法主要是采用一致性哈稀分片（Shard），将不同的key分配到不同的redis server上，达到横向扩展的目的。Redis-2.4.15目前没有提供集群的功能，Redis作者在博客中说将在3.0中实现集群机制。目前Redis实现集群的方法主要是采用一致性哈稀分片（Shard），将不同的ke
转载
2023-08-07 07:24:58
102阅读
