当前位置: 首页 > news >正文

一致性哈希算法

原博客:https://www.cnblogs.com/lpfuture/p/5796398.html
    http://www.jianshu.com/p/e8fb89bb3a61

1 背景

 一致性哈希算法大多用来解决服务器负载均衡的问题。
 举个场景例子:
  比如你有 N 个 cache 服务器(后面简称 cache ),那么如何将一个对象 object 映射到 N 个 cache 上呢,你很可能会采用类似下面的通用方法计算 object 的 hash 值,然后均匀的映射到到 N 个 cache ;
  采用通用的方法:hash(object)%N
  考虑如下的两种情况;
  1、一个 cache 服务器 m down 掉了,这样所有映射到 cache m 的对象都会失效,怎么办,需要把 cache m 从 cache 中移除,这时候 cache 是 N-1 台,映射公式变成了 hash(object)%(N-1) ;
  2 由于访问加重,需要添加 cache ,这时候 cache 是 N+1 台,映射公式变成了 hash(object)%(N+1) ;
  这两种情况都使得突然之间几乎所有的 cache 都失效了。一致性哈希算法就可以解决以上问题。

2 一致性Hash性质

  考虑到分布式系统每个节点都有可能失效,并且新的节点很可能动态的增加进来,如何保证当系统的节点数目发生变化时仍然能够对外提供良好的服务,这是值得考虑的,尤其实在设计分布式缓存系统时,如果某台服务器失效,对于整个系统来说如果不采用合适的算法来保证一致性,那么缓存于系统中的所有数据都可能会失效(即由于系统节点数目变少,客户端在请求某一对象时需要重新计算其hash值(通常与系统中的节点数目有关),由于hash值已经改变,所以很可能找不到保存该对象的服务器节点),因此一致性hash就显得至关重要,良好的分布式cahce系统中的一致性hash算法应该满足以下几个方面:
  平衡性(Balance)
  平衡性是指哈希的结果能够尽可能分布到所有的缓冲中去,这样可以使得所有的缓冲空间都得到利用。很多哈希算法都能够满足这一条件。

  单调性(Monotonicity)
  单调性是指如果已经有一些内容通过哈希分派到了相应的缓冲中,又有新的缓冲区加入到系统中,那么哈希的结果应能够保证原有已分配的内容可以被映射到新的缓冲区中去,而不会被映射到旧的缓冲集合中的其他缓冲区。简单的哈希算法往往不能满足单调性的要求,如最简单的线性哈希:x = (ax + b) mod (P),在上式中,P表示全部缓冲的大小。不难看出,当缓冲大小发生变化时(从P1到P2),原来所有的哈希结果均会发生变化,从而不满足单调性的要求。哈希结果的变化意味着当缓冲空间发生变化时,所有的映射关系需要在系统内全部更新。

  分散性(Spread)
  在分布式环境中,终端有可能看不到所有的缓冲,而是只能看到其中的一部分。当终端希望通过哈希过程将内容映射到缓冲上时,由于不同终端所见的缓冲范围有可能不同,从而导致哈希的结果不一致,最终的结果是相同的内容被不同的终端映射到不同的缓冲区中。这种情况显然是应该避免的,因为它导致相同内容被存储到不同缓冲中去,降低了系统存储的效率。分散性的定义就是上述情况发生的严重程度。好的哈希算法应能够尽量避免不一致的情况发生,也就是尽量降低分散性。

  负载(Load)
  负载问题实际上是从另一个角度看待分散性问题。既然不同的终端可能将相同的内容映射到不同的缓冲区中,那么对于一个特定的缓冲区而言,也可能被不同的用户映射为不同的内容。与分散性一样,这种情况也是应当避免的,因此好的哈希算法应能够尽量降低缓冲的负荷。

  平滑性(Smoothness)
  平滑性是指缓存服务器的数目平滑改变和缓存对象的平滑改变是一致的。

3 Consistent Hashing 原理

  consistent hashing 是一种 hash 算法,简单的说,在移除 / 添加一个 cache 时,它能够尽可能小的改变已存在key 映射关系,尽可能的满足单调性的要求。

1.环形hash空间

  考虑通常的 hash 算法都是将 value 映射到一个 32 为的 key 值,也即是 0~2^32-1 次方的数值空间;我们可以将这个空间想象成一个首( 0 )尾( 2^32-1 )相接的圆环。
一致性哈希算法

2.把需要缓存的内容(对象)映射到hash空间

  考虑4个对象object1~object4,通过hash函数计算出的哈希值key在环上的分布如下图。
hash(object1) = key1;...hash(objects4) = key4;
一致性哈希算法

3.把服务器(结点)映射到hash空间

  Consistent hashing 的基本思想就是将对象和 cache 都映射到同一个 hash 数值空间中,并且使用相同的 hash算法。
  假设当前有 A,B 和 C 共 3 台服务器(节点),那么其映射结果如下图,他们在 hash 空间中,以对应的 hash 值排列。
  一般的方法可以使用 服务器(节点) 机器的 IP 地址或者机器名作为 hash输入。
hash(cache A) = key A;
… …
hash(cache C) = key C;
一致性哈希算法

4.把对象映射到cache

  现在cache和对象都已经通过同一个 hash 算法映射到 hash 数值空间中了,接下来要考虑的就是如何将对象映射到 cache 上面了。
  在这个环形空间中,如果沿着顺时针方向从对象的 key 值出发,直到遇见一个 cache ,那么就将该对象存储在这个 cache 上,因为对象和 cache 的 hash 值是固定的,因此这个 cache 必然是唯一和确定的。那么,对象 object1 将被存储到 cache A 上; object2 和object3 对应到 cache C ; object4 对应到 cache B 。

5.考察cache的变动

5.1移除cache

  考虑假设 cache B 挂掉了,根据上面讲到的映射方法,这时受影响的将仅是那些沿 cache B 逆时针遍历直到下一个 cache ( cache A )之间的对象,也即是本来映射到 cache B 上的那些对象。因此这里仅需要变动对象 object4 ,将其重新映射到 cache C 上即可。如图4.
一致性哈希算法

5.2 添加cache

  再考虑添加一台新的 cache D 的情况,假设在这个环形 hash 空间中, cache D 被映射在对象 object2 和object3 之间。这时受影响的将仅是那些沿 cache D 逆时针遍历直到下一个 cache ( cache B )之间的对象(它们是也本来映射到 cache C 上对象的一部分),将这些对象重新映射到 cache D 上即可。
  因此这里仅需要变动对象 object2 ,将其重新映射到 cache D 上。
一致性哈希算法

6 虚拟节点

  考量 Hash 算法的另一个指标是平衡性 (Balance,平衡性是指哈希的结果能够尽可能分布到所有的缓冲中去,这样可以使得所有的缓冲空间都得到利用) 。
  hash 算法并不是保证绝对的平衡,如果 cache 较少的话,对象并不能被均匀的映射到 cache 上,比如在上面的例子中,仅部署 cache A 和 cache C 的情况下,在 4 个对象中, cache A 仅存储了 object1 ,而 cache C 则存储了object2 、 object3 和 object4 ;分布是很不均衡的。
为了解决这种情况, consistent hashing 引入了“虚拟节点”的概念,它可以如下定义:
  “虚拟节点”( virtual node )是实际节点在 hash 空间的复制品( replica ),一实际个节点对应了若干个“虚拟节点”,这个对应个数也成为“复制个数”,“虚拟节点”在 hash 空间中以 hash 值排列。仍以仅部署 cache A 和 cache C 的情况为例,在图 4 中我们已经看到, cache 分布并不均匀。现在我们引入虚拟节点,并设置“复制个数”为 2 ,这就意味着一共会存在 4 个“虚拟节点”, cache A1, cache A2 代表了 cache A; cache C1, cache C2 代表了 cache C ;假设一种比较理想的情况,参见图 6
一致性哈希算法
  此时,对象到“虚拟节点”的映射关系为:
objec1->cache A2 ; objec2->cache A1 ; objec3->cache C1 ; objec4->cache C2 ;
  因此对象 object1 和 object2 都被映射到了 cache A 上,而 object3 和 object4 映射到了 cache C 上;平衡性有了很大提高。引入“虚拟节点”后,映射关系就从 { 对象 -> 节点 } 转换到了 { 对象 -> 虚拟节点 } 。查询物体所在 cache 时的映射关系如图 7 所示。
一致性哈希算法
  “虚拟节点”的 hash 计算可以采用对应节点的 IP 地址加数字后缀的方式。例如假设 cache A 的 IP 地址为202.168.14.241 。
  引入“虚拟节点”前,计算 cache A 的 hash 值:
Hash(“202.168.14.241”);
  引入“虚拟节点”后,计算“虚拟节”点 cache A1 和 cache A2 的 hash 值:
Hash(“202.168.14.241#1”); // cache A1
Hash(“202.168.14.241#2”); // cache A2

转载于:https://blog.51cto.com/13097817/2047722

相关文章:

  • web api 初体验 解决js调用跨域问题
  • 用 zotero 管理文献和个人知识库
  • 新功能:在负载均衡SLB控制台上查看DDoS安全防护阈值
  • JavaScript 基础知识 - 入门篇(一)
  • xz文件如何解压
  • 超越NLP:构建聊天机器人面临的8个挑战
  • 运维学python之爬虫基础篇(二)urllib模块使用
  • 作为java初学者,适合看《java编程思想》这本书吗?
  • Is your JDeveloper Slow? - It shouldn't be!(转)
  • javascript面向对象系列第四篇——OOP中的常见概念
  • Java密码体系结构简介:Java Cryptography Architecture (JCA) Reference Guide
  • android下使用https协议发请求
  • 【转】Android开发之线程池使用总结
  • 小知识三、USerDefault我换个姿势来实现
  • 581 Shortest Unsorted Continuous Subarray
  • @jsonView过滤属性
  • Docker 1.12实践:Docker Service、Stack与分布式应用捆绑包
  • fetch 从初识到应用
  • HTML中设置input等文本框为不可操作
  • js中forEach回调同异步问题
  • Laravel5.4 Queues队列学习
  • MySQL数据库运维之数据恢复
  • SpiderData 2019年2月23日 DApp数据排行榜
  • vuex 学习笔记 01
  • 闭包--闭包之tab栏切换(四)
  • 京东美团研发面经
  • 入职第二天:使用koa搭建node server是种怎样的体验
  • 推荐一个React的管理后台框架
  • 项目实战-Api的解决方案
  • 终端用户监控:真实用户监控还是模拟监控?
  • 如何通过报表单元格右键控制报表跳转到不同链接地址 ...
  • (层次遍历)104. 二叉树的最大深度
  • (定时器/计数器)中断系统(详解与使用)
  • (附源码)基于SpringBoot和Vue的厨到家服务平台的设计与实现 毕业设计 063133
  • (机器学习-深度学习快速入门)第一章第一节:Python环境和数据分析
  • (六)什么是Vite——热更新时vite、webpack做了什么
  • (三)uboot源码分析
  • (转)LINQ之路
  • (转)Oracle 9i 数据库设计指引全集(1)
  • ***php进行支付宝开发中return_url和notify_url的区别分析
  • .NET NPOI导出Excel详解
  • .NET版Word处理控件Aspose.words功能演示:在ASP.NET MVC中创建MS Word编辑器
  • .NET多线程执行函数
  • :=
  • @Bean有哪些属性
  • [20170713] 无法访问SQL Server
  • [2019.3.5]BZOJ1934 [Shoi2007]Vote 善意的投票
  • [Android] 240204批量生成联系人,短信,通话记录的APK
  • [Angularjs]asp.net mvc+angularjs+web api单页应用之CRUD操作
  • [CSS]盒子模型
  • [EFI]Lenovo ThinkPad X280电脑 Hackintosh 黑苹果引导文件
  • [GN] 设计模式——面向对象设计原则概述
  • [LeetCode] Merge Two Sorted Lists
  • [LeetCode]—Simplify Path 简化路径表达式
  • [LWC小知识] 标准lightning-input-field怎么取得变更值(onchange)