当前位置：首页 > news >正文

【手写数据库内核组件】0201 哈希表hashtable的实战演练，多种非加密算法，hash桶的冲突处理，查找插入删除操作的代码实现

news 来源：原创 2024/9/17 4:01:31

hash表原理与实战

专栏内容：

postgresql使用入门基础
手写数据库toadb
并发编程

个人主页：我的主页
管理社区：开源数据库
座右铭：天行健，君子以自强不息；地势坤，君子以厚德载物.

文章目录

hash表原理与实战
一、概述
二、hash表整体介绍
- 2.1 hash表的应用场景
- 2.2 整体架构
三、hash算法选择
四、hash表操作
- 4.1 冲突处理
- 4.2 查找操作
- 4.3 插入操作
- 4.4 删除操作
五、总结
结尾

一、概述

hash表的应用非常广泛，在网上也可以看到分享的各种hash表的实现，都比较概念化。

本章节从实战的角度出发，以数据库内核中的应用为例，来看看hash表的原理与实现。

二、hash表整体介绍

哈希算法（Hash）又称摘要算法，它的作用是：对任意一组输入数据进行计算，得到一个固定长度的输出摘要。

哈希算法最重要的特点就是：

相同的输入一定得到相同的输出；
不同的输入大概率得到不同的输出；

我们想利用hash算法的这一特性，将输入的一组数据，经过hash算法计算后，输出唯一的 32位或64位的整形值key。

当我们需要找到存储的数据时，通过这个key查找，而查找整型值的效率就很高了，可以用二分法进行查找。

这样一个存储数据的结构，我们叫它hash表，也就是通常说的key-value形式的存储，它的查找效率与数据的类型无关。

2.1 hash表的应用场景

hash表一般用于存储大量的数据，而数据的类型是字符串，或者更复杂的复合类型结构体，或者是更大的数据；

直接通过原始数据进行查找时，代价非常高，将它们转换为hash 值后，就可以通过恒定的效率进行查找。

在数据库中的应用有：

数据块缓存，某个数据块是否已经在缓存中，通过对数据块编号的hash值进行查找；
系统字典的查找，某个表是否已经创建了，通过表的hash值进行查找；
hash索引，记录数据的hash值，查找时按hash值进行查找；

2.2 整体架构

hash表的实现一般由几方面组成，hash算法，bucket计算，冲突处理，key-value对应形式，以及三种操作。

在这里插入图片描述

既然是一个table，那么内部基本存储结构是一个数组，数组的最大元素个数就是capacity；
数组中的每个元索叫做bucket桶，来存储key-value对数据；
bucket位置的计算，一般会采用 hash值 % capacity 来计算；hash值一般是一个32位，64位或者128位的整数，取余后得到数组中的下标，这就是当前key-value要存储的位置；

三、hash算法选择

查找主要依赖高效的hash值的计算，一个高效，碰撞少的算法，能让hashtable的效率大大提升。

常见的hash算法有，MD5, sha-256等，这些常用于加密，而hashtable并不需要对数据进行加密，更看重计算的效率。

由此出现了一些快速hash算法，比较有名的如：

murmurhash3, 这是第三个版本，速度公认的非常快，开源了各种语言实现；
Spookyhash，这个目前支持128位；
cityhash，是google发布的，会利用现代CPU的特性进行性能提升，对于低于64位的输入处理比较复杂；

建议使用murmurhash3，算法简单高效，对于较少的输入也能高效处理。

这些算法都可以在github上下载得到，加入.c,.h文件后就可以直接调用使用。

类似如下调用：

seed = 123456789
data = "example data"
hash_value = murmur_hash(seed, data)

四、hash表操作

hash表的操作一般有插入，查找，删除三类基本操作。

对于修改操作可以分解为这三项的组合，先查找，再删除，然后插入，因为修改后的键值发生变化，对于它在hash表中的位置也会发生变化。

4.1 冲突处理

在开始操作之前，需要注意一种情况，因为我们数组元素个数有限，在取余之后难免会出现多个key-value数据在相同位置的情况，也就是key产生了冲突。

一般有两种处理方式：

一是在冲突位置往后继续找空位置存储；
二是在当前桶内以链表的形式存储；

两种不同的冲突处理，对应了后面操作的不同。这里采用第二种方法，如果有多个相同数据在同一桶中时，以单链表的形式存储。

在这里插入图片描述

图中可以看到，出现冲突时，key4,key5直接追加到key1后面。

那么定义数组元素类型时，就要定义为链表形式。

typedef unsigned long long HASHKEY; typedef struct HashElement
{struct HashElement *link;HASHKEY             hashKey;char                *value;
}HashElement;

这里定义hash为64位的整形，当然可以是其它位数。

4.2 查找操作

查找一个key-value值是否在hashtable中的步骤如下：

调用hash算法接口，计算value的hash值；
按找hash值计算bucket位置；
找到bucket，查看是否为空；
如果bucket中有多个元素，遍历链表进行比对hash值；
如果存在相同的hash值元素，则找到；否则没有找到。

获取hashkey函数

#define Hash_capacity 100
HashElement * hashtable[Hash_capacity];HASHKEY getHashKey(char *value, int valueSize)
{return spooky_hash64(value, valueSize, 0);
}

获取bucket函数

int GetBucketIndex(HASHKEY key, PHashTableInfo hashTableInfo)
{int bucket = key & Hash_capacity;return bucket;
}

查找函数

HashElement* HashFindEntry(char *value)
{HashElement *entry = NULL;int bucket = 0;HASHKEY key = 0;key = getHashKey(value, strlen(value));bucket = GetBucketIndex(key);entry = GetHashEntryFromBucket(hashtable[bucket], key);return entry;
}

从bucket链中查找

HashElement* GetHashEntryFromBucket(HashElement* bucket, HASHKEY key)
{HashElement* element = bucket;while(element != NULL){if(element->hashKey == key) {return element;}element = element->link;}return NULL;
}

当然这里，除取比较key值外，还可以对value定义比较函数，这样避免hash值冲突的情况。

4.3 插入操作

插入操作就比较简单，步骤如下：

计算hash 值；
根据hash值获取bucket位置；
存储对应bucket，如果已经有元素，存到链到头部；

HashElement* HashInsertEntry(char *value)
{HashElement *entry = NULL;int bucket = 0;HASHKEY key = 0;key = getHashKey(value, strlen(value));bucket = GetBucketIndex(key);entry = malloc(sizeof(HashElement));if(NULL == entry){return NULL;}entry->link = NULL;entry->hashKey = key;entry->value = value;if(NULL != hashtable[bucket])entry->link = hashtable[bucket];hashtable[bucket] = entry;return entry;
}

hash节点数量不确定，故采用动态内存分配；

在冲突时采用了头插法，这样操作比较简单；

4.4 删除操作

从hash表中找到并删除一个元素的步骤如下：

计算value的hash值；
计算对应的bucket位置
从bucket链中进行查找，同时记录下它的前继；
将对应key的元素从链表中删除；注意链表只有一个元素的情况；
将删除的元素返回，由调用者释放内存空间；

HashElement* DeleteHashEntry(char *value)
{HashElement *pre = NULL;HashElement* element = NULL;int bucket = 0;HASHKEY key = 0;key = getHashKey(value, strlen(value));bucket = GetBucketIndex(key);pre = element = hashtable[bucket];while(element != NULL){if(element->hashKey == key) {if(pre == element){hashtable[bucket] = NULL;}else{pre->link = element->link;}return element;}pre = element;element = element->link;}return NULL;
}