亚洲免费在线-亚洲免费在线播放-亚洲免费在线观看-亚洲免费在线观看视频-亚洲免费在线看-亚洲免费在线视频

一致性哈希算法與Java實(shí)現(xiàn)

系統(tǒng) 2832 0
一致性哈希算法是分布式系統(tǒng)中常用的算法。比如,一個(gè)分布式的存儲系統(tǒng),要將數(shù)據(jù)存儲到具體的節(jié)點(diǎn)上,如果采用普通的hash方法,將數(shù)據(jù)映射到具體的節(jié)點(diǎn)上,如key%N,key是數(shù)據(jù)的key,N是機(jī)器節(jié)點(diǎn)數(shù),如果有一個(gè)機(jī)器加入或退出這個(gè)集群,則所有的數(shù)據(jù)映射都無效了,如果是持久化存儲則要做數(shù)據(jù)遷移,如果是分布式緩存,則其他緩存就失效了。

因此,引入了一致性哈希算法:

一致性哈希算法與Java實(shí)現(xiàn)

把數(shù)據(jù)用hash函數(shù)(如MD5),映射到一個(gè)很大的空間里,如圖所示。數(shù)據(jù)的存儲時(shí),先得到一個(gè)hash值,對應(yīng)到這個(gè)環(huán)中的每個(gè)位置,如k1對應(yīng)到了圖中所示的位置,然后沿順時(shí)針找到一個(gè)機(jī)器節(jié)點(diǎn)B,將k1存儲到B這個(gè)節(jié)點(diǎn)中。

如果B節(jié)點(diǎn)宕機(jī)了,則B上的數(shù)據(jù)就會落到C節(jié)點(diǎn)上,如下圖所示:

一致性哈希算法與Java實(shí)現(xiàn)

這樣,只會影響C節(jié)點(diǎn),對其他的節(jié)點(diǎn)A,D的數(shù)據(jù)不會造成影響。然而,這又會造成一個(gè)“雪崩”的情況,即C節(jié)點(diǎn)由于承擔(dān)了B節(jié)點(diǎn)的數(shù)據(jù),所以C節(jié)點(diǎn)的負(fù)載會變高,C節(jié)點(diǎn)很容易也宕機(jī),這樣依次下去,這樣造成整個(gè)集群都掛了。

為此,引入了“虛擬節(jié)點(diǎn)”的概念:即把想象在這個(gè)環(huán)上有很多“虛擬節(jié)點(diǎn)”,數(shù)據(jù)的存儲是沿著環(huán)的順時(shí)針方向找一個(gè)虛擬節(jié)點(diǎn),每個(gè)虛擬節(jié)點(diǎn)都會關(guān)聯(lián)到一個(gè)真實(shí)節(jié)點(diǎn),如下圖所使用:

一致性哈希算法與Java實(shí)現(xiàn)

圖中的A1、A2、B1、B2、C1、C2、D1、D2都是虛擬節(jié)點(diǎn),機(jī)器A負(fù)載存儲A1、A2的數(shù)據(jù),機(jī)器B負(fù)載存儲B1、B2的數(shù)據(jù),機(jī)器C負(fù)載存儲C1、C2的數(shù)據(jù)。由于這些虛擬節(jié)點(diǎn)數(shù)量很多,均勻分布,因此不會造成“雪崩”現(xiàn)象。

Java 實(shí)現(xiàn):

  1. public class Shard<S>{ //S類封裝了機(jī)器節(jié)點(diǎn)的信息,如name、password、ip、port等
  2. private TreeMap<Long,S>nodes; //虛擬節(jié)點(diǎn)
  3. private List<S>shards; //真實(shí)機(jī)器節(jié)點(diǎn)
  4. private final int NODE_NUM= 100 ; //每個(gè)機(jī)器節(jié)點(diǎn)關(guān)聯(lián)的虛擬節(jié)點(diǎn)個(gè)數(shù)
  5. public Shard(List<S>shards){
  6. super ();
  7. this .shards=shards;
  8. init();
  9. }
  10. private void init(){ //初始化一致性hash環(huán)
  11. nodes= new TreeMap<Long,S>();
  12. for ( int i= 0 ;i!=shards.size();++i){ //每個(gè)真實(shí)機(jī)器節(jié)點(diǎn)都需要關(guān)聯(lián)虛擬節(jié)點(diǎn)
  13. final SshardInfo=shards.get(i);
  14. for ( int n= 0 ;n<NODE_NUM;n++)
  15. //一個(gè)真實(shí)機(jī)器節(jié)點(diǎn)關(guān)聯(lián)NODE_NUM個(gè)虛擬節(jié)點(diǎn)
  16. nodes.put(hash( "SHARD-" +i+ "-NODE-" +n),shardInfo);
  17. }
  18. }
  19. public SgetShardInfo(Stringkey){
  20. SortedMap<Long,S>tail=nodes.tailMap(hash(key)); //沿環(huán)的順時(shí)針找到一個(gè)虛擬節(jié)點(diǎn)
  21. if (tail.size()== 0 ){
  22. return nodes.get(nodes.firstKey());
  23. }
  24. return tail.get(tail.firstKey()); //返回該虛擬節(jié)點(diǎn)對應(yīng)的真實(shí)機(jī)器節(jié)點(diǎn)的信息
  25. }
  26. /**
  27. *MurMurHash算法,是非加密HASH算法,性能很高,
  28. *比傳統(tǒng)的CRC32,MD5,SHA-1(這兩個(gè)算法都是加密HASH算法,復(fù)雜度本身就很高,帶來的性能上的損害也不可避免)
  29. *等HASH算法要快很多,而且據(jù)說這個(gè)算法的碰撞率很低.
  30. *http://murmurhash.googlepages.com/
  31. */
  32. private Longhash(Stringkey){
  33. ByteBufferbuf=ByteBuffer.wrap(key.getBytes());
  34. int seed= 0x1234ABCD ;
  35. ByteOrderbyteOrder=buf.order();
  36. buf.order(ByteOrder.LITTLE_ENDIAN);
  37. long m=0xc6a4a7935bd1e995L;
  38. int r= 47 ;
  39. long h=seed^(buf.remaining()*m);
  40. long k;
  41. while (buf.remaining()>= 8 ){
  42. k=buf.getLong();
  43. k*=m;
  44. k^=k>>>r;
  45. k*=m;
  46. h^=k;
  47. h*=m;
  48. }
  49. if (buf.remaining()> 0 ){
  50. ByteBufferfinish=ByteBuffer.allocate( 8 ).order(
  51. ByteOrder.LITTLE_ENDIAN);
  52. //forbig-endianversion,dothisfirst:
  53. //finish.position(8-buf.remaining());
  54. finish.put(buf).rewind();
  55. h^=finish.getLong();
  56. h*=m;
  57. }
  58. h^=h>>>r;
  59. h*=m;
  60. h^=h>>>r;
  61. buf.order(byteOrder);
  62. return h;
  63. }
  64. }

一致性哈希算法與Java實(shí)現(xiàn)


更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯(lián)系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點(diǎn)擊下面給點(diǎn)支持吧,站長非常感激您!手機(jī)微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點(diǎn)擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!!!

發(fā)表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 四虎+网站+影院+网站 | 欧美乱大交xxxxx按摩v | 久久狠色噜噜狠狠狠狠97 | 亚洲不卡在线观看 | 午夜三级做爰视频在线看 | 在线精品自拍 | 日韩精选视频 | 色综合图区 | 最新国产中文字幕 | 91精品国产自产91精品 | 久久综合玖玖爱中文字幕 | 狠狠狠狠狠狠狠狠 | 午夜特级毛片 | 日本视频三区 | 亚洲合集综合久久性色 | 丝袜三级 | 99国产国人青青视频在线观看 | 成人午夜天 | 50-60岁老妇女一级毛片 | 日本特交大片免费观看 | 亚洲视频免| 女人十八毛片一级毛片免费看 | 天天爽天天| 久久国产精品偷 | 福利视频99 | 成人精品一区二区三区中文字幕 | 可以免费观看的一级毛片 | 最新四虎4hu影库地址在线 | 老子影院午夜伦手机不四虎 | 国产欧美一区二区三区免费看 | 日本久久网 | 夜色福利视频 | 狠狠亚洲婷婷综合色香 | 青青热久免费精品视频精品 | 国产亚洲精品福利 | 国产精品日本一区二区在线看 | 97人人插| 仑乱高清在线一级播放 | 日本不卡三级 | 色狠狠成人综合色 | 国产成人亚洲精品91专区高清 |