标签:可见 hash arch Go语言 http dea arc 比较 文档
一致性hash是什么?假设有4台缓存服务器N0,N1,N2,N3
,现在需要存储数据OBJECT1,OBJECT2,OBJECT3,OBJECT4,OBJECT5,OBJECT5,OBJECT7,OBJECT8
,
我们需要将这些数据缓存到这4台服务器上,相应的问题是
如何设计数据存放策略?即ObjectX 应该存放在哪台服务器上?
为了解决这个问题,我们有如下几个思路。
采用hash(Objectx)%4来确定服务器节点
假设 hash(OBJECT1)=2
,由 2%4=2,可知,Object1
则应该存放到节点N2
上
假设 hash(OBJECT2)=3
,由 3%4=3,可知,Object2
则应该存放到节点N3
上
假设 hash(OBJECT3)=1
,由 1%4=1,可知,Object3
则应该存放到节点N1
上
假设 hash(OBJECT4)=0
,由 1%4=1,可知,Object4
则应该存放到节点N0
上
假设 hash(OBJECT5)=5
,由 5%4=1,可知,Object5
则应该存放到节点N1
上
假设 hash(OBJECT6)=6
,由 6%4=2,可知,Object6
则应该存放到节点N2
上
假设 hash(OBJECT7)=7
,由 7%4=3,可知,Object7
则应该存放到节点N3
上
假设 hash(OBJECT8)=8
,由 8%4=0,可知,Object8
则应该存放到节点N0
上
假设我们需要读取Object3
的数据,则由hash(object3)=1
可知,我们只需要访问节点N1
即可。
N3
忽然故障下线我们面临缓存重新构造的问题
采用hash(Objectx)%3来确定服务器节点
假设 hash(OBJECT1)=2
,由 2%3=2,可知,Object1
则应该存放到节点N2
上
假设 hash(OBJECT2)=3
,由 3%3=0,可知,Object2
则应该存放到节点N0
上
假设 hash(OBJECT3)=1
,由 1%3=1,可知,Object3
则应该存放到节点N1
上
假设 hash(OBJECT4)=0
,由 0%3=0,可知,Object4
则应该存放到节点N0
上
假设 hash(OBJECT5)=5
,由 5%3=2,可知,Object5
则应该存放到节点N2
上
假设 hash(OBJECT6)=6
,由 6%3=0,可知,Object6
则应该存放到节点N0
上
假设 hash(OBJECT7)=7
,由 7%3=1,可知,Object7
则应该存放到节点N1
上
假设 hash(OBJECT8)=8
,由 8%3=2,可知,Object8
则应该存放到节点N2
上
此时为了保证数据的准确性,我们需要
将数据Object2
从N3
迁移到N0
将数据Object5
从N1
迁移到N2
将数据Object6
从N2
迁移到N0
将数据Object7
从N3
迁移到N1
将数据Object8
从N0
迁移到N2
N4
我们面临缓存重新构造的问题
采用hash(Objectx)%5来确定服务器节点
假设 hash(OBJECT1)=2
,由 2%5=2,可知,Object1
则应该存放到节点N2
上
假设 hash(OBJECT2)=3
,由 3%5=3,可知,Object2
则应该存放到节点N3
上
假设 hash(OBJECT3)=1
,由 1%5=1,可知,Object3
则应该存放到节点N1
上
假设 hash(OBJECT4)=0
,由 0%5=0,可知,Object4
则应该存放到节点N0
上
假设 hash(OBJECT5)=5
,由 5%5=0,可知,Object5
则应该存放到节点N0
上
假设 hash(OBJECT6)=6
,由 6%5=1,可知,Object6
则应该存放到节点N1
上
假设 hash(OBJECT7)=7
,由 7%5=2,可知,Object7
则应该存放到节点N2
上
假设 hash(OBJECT8)=8
,由 8%5=3,可知,Object8
则应该存放到节点N3
上
此时为了保证数据的准确性,我们需要
将数据Object2
从N3
迁移到N0
将数据Object5
从N1
迁移到N0
将数据Object6
从N2
迁移到N1
将数据Object7
从N3
迁移到N2
将数据Object8
从N0
迁移到N3
从上述俩种情况可以看出,一旦机器数目变化,我们面临大量的缓存变化问题,换言之,缓存大部分失效,很可能会导致雪崩。
现在我们更换如下策略
0<hash(Objectx)%8<=2 ,则存放在
N0
2<hash(Objectx)%8<=4 ,则存放在N1
4<hash(Objectx)%8<=6 ,则存放在N2
6<hash(Objectx)%8<=8 ,则存放在N3
N3
忽然故障下线我们面临缓存重新构造的问题,调整策略如下
0<hash(Objectx)%8<=2 ,则存放在
N0
2<hash(Objectx)%8<=4 ,则存放在N1
4<hash(Objectx)%8<=6 ,则存放在N2
6<hash(Objectx)%8<=8 ,则存放在N0
此时为了保证数据的准确性,我们需要
将数据ObjectX
从N3
迁移到N0
,受影响的数据仅仅N3相关的数据。
N4
我们面临缓存重新构造的问题,调整策略如下
0<hash(Objectx)%8<=2 ,则存放在
N0
2<hash(Objectx)%8<=4 ,则存放在N1
4<hash(Objectx)%8<=5 ,则存放在N2
5<hash(Objectx)%8<=6 ,则存放在N4
6<hash(Objectx)%8<=8 ,则存放在N3
此时为了保证数据的准确性,我们需要
将数据从N2
复制到N4
,受影响的仅仅N2相关的用户。
比较上述俩种做法,可见方案2更优. 方案2就是一致性hash
机器越少,则每台机器上负载将越不均匀,解决这个问题的方法是添加虚拟节点,调整策略,如下,可以想象,数据越多,分布越均匀。
0<hash(Objectx)%8<=1 ,则存放在
N0
1<hash(Objectx)%8<=2 ,则存放在N1
2<hash(Objectx)%8<=3 ,则存放在N2
3<hash(Objectx)%8<=4 ,则存放在N3
4<hash(Objectx)%8<=5 ,则存放在N0
5<hash(Objectx)%8<=6 ,则存放在N1
6<hash(Objectx)%8<=7 ,则存放在N2
7<hash(Objectx)%8<=8 ,则存放在N3
原理网络上太多,这里不做进一步阐述。
开源项目golang go语言后台管理框架restgo-admin
开源项目golang go语言后台管理框架restgo-admin
关于一致性hash,这可能是全网最形象生动最容易理解的文档,想做架构师的你来了解一下
标签:可见 hash arch Go语言 http dea arc 比较 文档
原文地址:https://www.cnblogs.com/techidea8/p/11403289.html