CSA  >> Vol. 10 No. 1 (January 2020)

    基于一致性哈希算法的分布式数据库高效扩展方法
    Efficient Expansion Method for Distributed Database Based on Consistent Hashing Algorithm

  • 全文下载: PDF(806KB) HTML   XML   PP.154-159   DOI: 10.12677/CSA.2020.101017  
  • 下载量: 89  浏览量: 136   国家科技经费支持

作者:  

韩 超,于 伟:中国科学院云计算中心,广东 东莞;国云科技股份有限公司,广东 东莞;
郑锐韬,熊 梦:国云科技股份有限公司,广东 东莞;
关班记:中国科学院云计算中心,广东 东莞

关键词:
一致性哈希算法分布式数据库数据对象数据库扩容Consistent Hashing Algorithm Distributed Database Data Object Database Expansion

摘要:

大数据背景下,分布式数据库在使用过程中经常需要扩容,在扩容过程中,各存储节点的哈希值需要重新计算,数据对象也需要大量迁移数据。本文通过预留子分区识别位、数据库扩容过程中物理存储节点编码“高位不变,低位置1”等技术手段实现数据库的高效扩展。对比实验标明:该方法避免了分布式数据库在扩容时的已有存储节点哈希值的重新计算工作,减少了数据对象的数据迁移量,提高了分布式数据库的扩展效率。

Under the big date background, distributed database became bigger during use. In the process of distributed database expansion, storage node’s hash value would be recomputed, and the data object would be migration, so a large amount of data will be transferred. An efficient expansion method for distributed database was adopted, by reserved identification bit and storage node’s code “High Bit Constant, Low Bit Set”. Contrast experiment shows that this method can avoid recomputed hash value of existing storage nodes as well as reduce data migration, and improve the efficiency of the distributed database expansion.

1. 引言

随着大数据广泛应用于各个行业领域,越来越多的应用系统采用分布式数据库来管存储管理业务数据 [1] [2] [3] [4]。分布式数据库是指在物理上分散存储在的多个计算机,但逻辑上统一的数据库 [5]。分布式数据库中的数据分散在多个存储节点上,所以可适当提高系统冗余备份,保障数据的可靠性。在分布式存储系统中,存储节点经常会发生动态的变化,比如节点的失效和增添,如何在节点状态变化时仍然能够对外提供良好的服务,保证数据的一致性,成为一个重要的问题。为此麻省理工学院的Karger等人提出了一致性哈希算法,修正了简单哈希算法带来的问题,建立了从物理存储节点到虚拟存储节点的映射关系——哈希表(DHT, Distributed Hash Table),通过对存储对象关键因子的Hash计算,把数据对象均衡地分布于多个物理存储节点上。在节点发生变化时,发生迁移的数据对象最少,这样分布式数据库在节点变化频繁的场合也可以得到应用 [6] [7] [8]。

大数据时代的来临,数据库的增长速度越来越快,在数据库扩展过程中,当原有的地址定义字节长度不能满足物理节点的编号需求时,如256个存储节点升级为512个存储节点,就要对地址定义进行“升位”。此时计算各个存储节点的哈希值也需要重新,这样就耗费了大量的计算资源和时间,同时存储在各个节点的存储对象也因Hash值的对应关系发生变化而需要大量迁移。

本文通过对基于一致性哈希算法的哈希空间进行改进,在对物理存储节点进行编码时,预留了若干的子空间标识位,现有物理存储节点的编码放在高N位,低M位预留为子空间标识位,预留标识位全部预设为0。当物理存储节点的数量超过N位编码容量而需要扩容时,采用“高位不变,低位置1”的方法,进行编码的扩展,这样,原有的物理节点编码不变,其哈希值也不变,在哈希空间的位置也不变,存在原物理节点上的数据也不需要迁移。减小了数据库扩展过程中哈希值的计算量,降低了数据迁移量。

2. 预留分区的哈希空间构造

一致性哈希算法将整个哈希空间组织成一个虚拟的圆环,我们称这个圆环为DHT (Distributed Hash Table)环,分布式数据库的各个物理存储节点按一致性哈希算法映射到DHT环中,成为虚拟存储节点。在实现过程中,首先根据对物理存储节点进行编码C,对编码采用CRC等算法对编码进行哈希运算得到节点的哈希值H,将H映射到DHT环的相应位置上;接着对数据对象的关键值(key value)进行哈希运算得到数据对象的哈希值h,也映射到哈希空间,确定h在DHT环的位置;然后,从h所在的位置沿环顺时针“行走”,第一台遇到的虚拟存储节点就是其应该对应的存储节点;最后根据虚拟存储节点与物理存储节点的对应关系,将存储对象的数据存入物理存储节点。

如果物理节点的编码表已经填满,需要“升位”,这个时候就需要对物理存储节点进行重新编码,此时所有物理节点的哈希值H都要重新计算,原有的数据对象--存储节点的对应关系将会被打乱,大量的数据都需要迁移。

Figure 1. A hash space with reserved partition’s identification bits

图1. 预留分区标识位的哈希空间构造示意图

按照图1所示的方法在构造哈西空间时对物理存储节点的编码方法进行改造,现有物理存储节点的编码放在高N位,低M位预留为子空间标识位,预留标识位全部预设为0。数据库需要扩展新的物理节点时,从预留标识位最高位开始置1。原有节点的编码不变,设原有编码为C,升位后所有的物理节点就有了一个新的编码CN,将这个新的编码映射到哈希空间,得到哈希值HN。原有编码:

C = x M + N 1 2 M + N 1 + + x M 2 M + 0 2 M 1 + + 0 2 0 , x i { 0 , 1 } (1)

新编码:

C N = x M + N 1 2 M + N 1 + + x M 1 2 M 1 + 0 2 M 2 + + 0 2 0 , x i { 0 , 1 } (2)

很显然,从C到CN物理节点的编码容量从 2 N 扩展到 2 N + 1 个,而原有各节点的编码值并没有发生变化。

对其进行哈希运算,得到扩容后的数据库存储节点在DHT环上的映射值:

H N = hash ( C N ) (3)

显然,原有的存储节点的哈希值并未发生变化,所以存在原有存储节点上的数据对象并不需要迁移。

3. 基于CRC32算法的哈希值生成

CRC32算法实际上是一种循环校验算法,原理是在一个P位二进制数据序列之后附加一个32-P位二进制检验码序列,从而构成一个总长为32位的二进制序列;附加检验码序列与原数据序列的内容之间存在着某种特定的关系。如果在传输过程中,数据序列中的某些位发生错误,这种特定关系就会被破坏,依据数据发送方和接收方原有的约定,接收方就可以发现这个错误。

典型的CRC32校验多项式为:

CRC 32 = 2 32 + 2 26 + 2 23 + 2 22 + 2 16 + 2 12 + 2 11 + 2 10 + 2 8 + 2 7 + 2 5 + 2 4 + 2 2 + 2 1 + 1 = 0x04C11DB7

设原数据序列为 Messa 0 ,求取哈希值hash_value的运算 hash ( ) 步骤如下:

1) 取校验多项式的阶次,CRC32算法的最高次项为232,所以其阶次为32;

2) 将原数据序列 Messa 0 升位,得到

3) 对 Messa 1 进行模2除法,除数为CRC32,余数即CRC32的校验码:

CRC Striing = mod ( Messa 1 / CRC32 ) (4)

4) 合成哈希值: hash_value = Messa 1 + CRC String

当校验多项式的阶次发生变化时,通用的CRC算法构成框图如图2所示。

Figure 2. Realization block diagram of classical CRC algorithm

图2. 典型CRC算法实现框图

4. 分布式数据库扩展方法比较

为验证本文提出的分布式数据库扩展方法,根据典型的分布式数据库扩展场景对比两种不预留子空间标识位的扩展方法的哈希值运算量和存储节点在哈希空间的分布情况。设某分布式数据库原有256个物理存储节点,此时用8位二进制编码即可表征所有存储节点的编号。随着数据量的增大,需要将数据库规模扩充为512个节点,此时需用9位二进制才能表征所有存储节点的编码(实际上由于计算机的存储方式必须以字节为单位进行扩展,也就是8位二进制为单位进行扩展,这里为将分析过程简化,只考虑1位二进制扩展)。

第一种情况,在8位原编码基础上,在高位增加1位,这样新的编码为变为9位,如图3所示。此时所有存储节点的编码在数值上没有变化,附加的校验序列依旧是原来的32位。如原有存储节点编码0X5F,CRC32校验码为:0X29D6A3E8;扩展后存储节点编码0X05F,CRC32校验码为:0X29D6A3E8。扩展前后哈希值均为:0X5F29D6A3E8,没有发生变化。所以这种方法并不需要对原有的存储节点的哈希值重新计算,也不用迁移原有存储节点上的数据。但是由于哈希空间发生了变化——比原来扩大了,所以这种方法会使原有存储节点在哈希空间的位置分布发生变化,如图3所示,现有的节点在哈希空间的位置由原来的近似均匀分布,变为集中在数值低的那一段。这样后面有新增数据对象需要存储时,都大量集中到第一个存储节点上,使存储节点的负载不均衡。

第二种情况在8位原编码基础上,在低位增加1位,这样新的编码为变为9位,如图4所示。此时所有的存储节点的编码数值都发生了变化,如0X5F变为0XBE,扩展后CRC32校验码为:0XFEDB7106,扩展后哈希值:0XBEFEDB7106,与原哈希值相比有较大的变化。所有已有存储节点的哈希值都需要重新计算,数据对象与存储节点的对应关系也会发生变化,大量的数据需要迁移。但是这样做也有一定的优势,就是存储节点在哈希空间的分布依旧是均匀的,这样就避免了新增数据对象后,存储节点的负载不均衡问题。

Figure 3. Position change of storage node’ hash value in hash space when expand digits at high position

图3. 在编码高位升位,存储节点哈希值在哈希空间的位置变化

Figure 4. Position change of storage node’ hash value in hash space when expand digits at low position

图4. 在编码低位升位,存储节点哈希值在哈希空间的位置变化

第三种情况,按本文提出的方法,预留一个字节的子空间标识位。如0X5F,预留8位的子空间标识位,变为0X5F00,当数据库需要扩展时,新增存储节点在低八位予以标识,如0X5F01。此时原有存储节点的哈希值0X5F007CFA5364保持不变,哈希空间没有发生变化,所以原有存储节点在哈希空间上的分布也不会发生变化。这样就不会带来重新计算哈希值问题,也不会在新增数据对象时带来存储节点的负载不均衡问题,具有明显的优势。

5. 结束语

针对大数据背景下分布式数据库频繁的扩展需求,基于一致性哈希算法提出了一种分布式数据库高效扩展方法。通过预留子空间标识位、数据库在扩容过程中,物理节点编码“高位不变,低位置1”的方法,避免了对已有数据库Hash值进行重新计算,从而大大减小了扩展过程中的工作量,也降低了数据对象的迁移操作,为分布式数据库的高效管理提供了理论支持。

致谢

感谢 2018 国家重点研发计划项目(项目编号2018YFB1004604,项目名称“天空地一体化公共安全事件智能感知与理解系统”)的资助;感谢住房城乡建设部2016年科学技术项目(项目编号2016-K3-008,项目名称“智慧城市实验云–城市级大数据开放及统一运营平台建设及产业化应用”)资助。

基金项目

2018 国家重点研发计划项目资助(项目编号 2018YFB1004604);住房城乡建设部2016年科学技术项目资助(项目编号 2016-K3-008)。

文章引用:
韩超, 郑锐韬, 于伟, 熊梦, 关班记. 基于一致性哈希算法的分布式数据库高效扩展方法[J]. 计算机科学与应用, 2020, 10(1): 154-159. https://doi.org/10.12677/CSA.2020.101017

参考文献

[1] 刘文洁, 李戬勃, 李战怀, 等. 一种面向金融应用的海量分布式关系数据库[J]. 华中科技大学学报(自然科学版), 2019, 47(2): 121-126.
[2] 门威, 邹香玲. 浅谈MapReduce与关系型数据库技术的融合[J]. 河北软件职业技术学院学报, 2017, 19(3): 10-13.
[3] 杨健, 刘方舟. 大数据背景下党建统计数据的存储电子化问题研究[J]. 云南民族大学学报(哲学社会科学版), 2019, 36(2): 26-30.
[4] 单维锋, 滕云田, 刘海军, 等. 大数据环境下地震观测数据存储方案研究[J]. 中国地震, 2019, 35(3): 558-564.
[5] 肖凌, 刘继红, 姚建初. 分布式数据库系统的研究与应用[J]. 计算机工程, 2001, 27(1): 33-35.
[6] Karger, D., Lehman, E., Leighton, T., et al. (1997) Consistent Hashing and Random Trees: Distributed Caching Protocols for Relieving Hot Spots on the World Wide Web. Proceedings of the Twenty-Ninth Annual ACM Symposium on the Theory of Computing, El Paso, Texas, 4-6 May 1997, 654-663.
[7] 王康, 李东静, 陈海光. 分布式存储系统中改进的一致性哈希算法[J]. 计算机技术与发展, 2016, 26(7): 24-29.
[8] 陈凤, 蒙祖强. 基于哈希算法的异构多模态数据检索研究[J]. 计算机科学, 2019, 46(10): 49-54.