Redis学习笔记:字典rehash底层实现与Java区别

2024-08-27 15:48

本文主要是介绍Redis学习笔记:字典rehash底层实现与Java区别,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

环境

Java:11
Redis设计与实现

前言

今天在看Redis的字典rehash时,发现其与Java不一样;
并由此产生了如下思考:
① Redis既然采用的是渐进式rehash,那么Java的HashMap采用的是什么?
② 集中式重新rehash是非常耗性能的,hashMap中rehash的优化点在哪里?

扩容

以前下面这段代码我没有重点看,只知道这是在扩容;
今天重点看了下,不过红黑树没看:

final Node<K,V>[] resize() {Node<K,V>[] oldTab = table;// 原哈希表的长度int oldCap = (oldTab == null) ? 0 : oldTab.length;// 触发扩容的临界值int oldThr = threshold;int newCap, newThr = 0;if (oldCap > 0) {// 1<<30 2^30 最大值if (oldCap >= MAXIMUM_CAPACITY) {threshold = Integer.MAX_VALUE;return oldTab;}// 左移1位相当于乘2, newCap就变成了原来的2倍else if ((newCap = oldCap << 1) < MAXIMUM_CAPACITY &&oldCap >= DEFAULT_INITIAL_CAPACITY)newThr = oldThr << 1; // double threshold}else if (oldThr > 0) // initial capacity was placed in thresholdnewCap = oldThr;else {               // zero initial threshold signifies using defaultsnewCap = DEFAULT_INITIAL_CAPACITY;newThr = (int)(DEFAULT_LOAD_FACTOR * DEFAULT_INITIAL_CAPACITY);}if (newThr == 0) {float ft = (float)newCap * loadFactor;newThr = (newCap < MAXIMUM_CAPACITY && ft < (float)MAXIMUM_CAPACITY ?(int)ft : Integer.MAX_VALUE);}threshold = newThr;@SuppressWarnings({"rawtypes","unchecked"})Node<K,V>[] newTab = (Node<K,V>[])new Node[newCap];table = newTab;if (oldTab != null) {// 关键变量 e 每次遍历的当前元素// for (int j = 0; j < oldCap; ++j) {Node<K,V> e;if ((e = oldTab[j]) != null) {oldTab[j] = null;if (e.next == null)// 无链表的情况newTab[e.hash & (newCap - 1)] = e;else if (e instanceof TreeNode)((TreeNode<K,V>)e).split(this, newTab, j, oldCap);else { // preserve order 有链表的情况// 高位为0的头节点、高位为0的尾节点Node<K,V> loHead = null, loTail = null;// 高位为1的头结点、高位为1的尾节点Node<K,V> hiHead = null, hiTail = null;Node<K,V> next;do {// 链表当前节点next = e.next;// 因为原数组的长度都是2^n,// 所以最高位是1,低位都是0// e.hash & oldCap 就可以得出e.hash的高位是0 or 1if ((e.hash & oldCap) == 0) {if (loTail == null)loHead = e;elseloTail.next = e;loTail = e;} else {// 数据高位为1的情况if (hiTail == null)hiHead = e;elsehiTail.next = e;hiTail = e;}} while ((e = next) != null);if (loTail != null) {loTail.next = null;// 原索引没变情况newTab[j] = loHead;}if (hiTail != null) {hiTail.next = null;// 因为扩容导致索引变化的情况newTab[j + oldCap] = hiHead;}}}}}return newTab;
}

这段代码整体理解起来不算难,需要注意地方:
① 移位: <<n 左移n位就是 乘以2n
② 因为原数组的长度都是2^n,所以最高位是1,低位都是0,e.hash & oldCap 就可以得出e.hash的高位是0 or 1;

newTab[j + oldCap] = hiHead; 的理解

可以看到这段代码中数组扩容后,当原hash的高位为1时,新索引的位置是j + oldCap

为什么时这样的呢?

现在我们假设HashMap初始容量是8;
现在需要存入key13这么一个数字;
那么它的索引位置在哪呢?

索引位置:key & (length - 1)
13 &(8-1)= 13 & 7
13 转成二进制:1101
7 转成二进制:0111

做&运算后:0101 = 5
如下图所示:
在这里插入图片描述

假设现在扩容了,容量变为了16,即原来的一倍;

我们再来计算下新的索引位置:
13 转成二进制:1101
15 转成二进制:1111

做&运算后:1101 = 13,这个位置正好是 5 + 8 = 13,
即旧索引位置 + 扩容前的容量:newTab[j + oldCap] = hiHead

在这里插入图片描述
所以Java在扩容时,在重新计算hash值这一块是很快的;

Redis

Redis的扩容和收缩,是利用两个哈希表来完成。在设计上就和Java有区别;

typedef struct dict {dictType *type;void * privdata;// 哈希表dictht ht[2];// rehash索引,当rehash不在进行时,值为-1int rehashidx;
} dict;

从上面的结构中就可以看出,Redis字典创建时就有两个哈希表,不rehash的情况下,只使用ht[0]这个哈希表,当发生扩容和收缩时,才会用到ht[1]哈希表和rehashidx这个属性;

Redis采用的是渐进式过程,其重新计算hash和数据搬运的过程是发生在增删改查的操作中的,而不是集中一次性完成的。

rehash的过程:

① 为ht[1]分配空间,空间大小为旧空间的2n;
② 将字典中维持的索引计数器rehashidx设置0,表示rehash工作正式开始;
③ 在rehash期间,每次对字典的增、删、改、查,操作,程序除了执行指定的操作之外,还会顺带将ht[0]哈希表在rehashidex索引上的所有键值对rehash到ht[1],当完成后,程序将rehashidex的值加一。
④ 随着字典操作的不断进行,ht[0]表中的所有键值对都会被rehash到ht[1],这时会将rehashidx属性值设置为-1,表示rehash操作结束。

总结

在这里插入图片描述

功能JavaRedis
扩容集中式扩容渐进式扩容
收缩不支持收缩支持收缩
哈希冲突采用链表和红黑树解决冲突采用链表解决冲突

换种说法:Java 扩容类似股票暴跌,一天跌到位,Redis扩容类似阴跌,跌它一个月,跌到位。
Q:Java为什么不支持收缩?
A:Java是以空间换时间,支持收缩不符合它的理念
Q:Java采用集中式扩容有没有性能问题?
A:有

个人注意的细节:
我发现Java的hashMap和Redis哈希表中的next指针,都是用来解决哈希冲突时,形成链表用的。

参考地址:

深入分析 JDK8 中 HashMap 的原理、实现和优化

这篇关于Redis学习笔记:字典rehash底层实现与Java区别的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1112104

相关文章

基于SpringBoot+Mybatis实现Mysql分表

《基于SpringBoot+Mybatis实现Mysql分表》这篇文章主要为大家详细介绍了基于SpringBoot+Mybatis实现Mysql分表的相关知识,文中的示例代码讲解详细,感兴趣的小伙伴可... 目录基本思路定义注解创建ThreadLocal创建拦截器业务处理基本思路1.根据创建时间字段按年进

SpringBoot3实现Gzip压缩优化的技术指南

《SpringBoot3实现Gzip压缩优化的技术指南》随着Web应用的用户量和数据量增加,网络带宽和页面加载速度逐渐成为瓶颈,为了减少数据传输量,提高用户体验,我们可以使用Gzip压缩HTTP响应,... 目录1、简述2、配置2.1 添加依赖2.2 配置 Gzip 压缩3、服务端应用4、前端应用4.1 N

Java编译生成多个.class文件的原理和作用

《Java编译生成多个.class文件的原理和作用》作为一名经验丰富的开发者,在Java项目中执行编译后,可能会发现一个.java源文件有时会产生多个.class文件,从技术实现层面详细剖析这一现象... 目录一、内部类机制与.class文件生成成员内部类(常规内部类)局部内部类(方法内部类)匿名内部类二、

SpringBoot实现数据库读写分离的3种方法小结

《SpringBoot实现数据库读写分离的3种方法小结》为了提高系统的读写性能和可用性,读写分离是一种经典的数据库架构模式,在SpringBoot应用中,有多种方式可以实现数据库读写分离,本文将介绍三... 目录一、数据库读写分离概述二、方案一:基于AbstractRoutingDataSource实现动态

Python FastAPI+Celery+RabbitMQ实现分布式图片水印处理系统

《PythonFastAPI+Celery+RabbitMQ实现分布式图片水印处理系统》这篇文章主要为大家详细介绍了PythonFastAPI如何结合Celery以及RabbitMQ实现简单的分布式... 实现思路FastAPI 服务器Celery 任务队列RabbitMQ 作为消息代理定时任务处理完整

Springboot @Autowired和@Resource的区别解析

《Springboot@Autowired和@Resource的区别解析》@Resource是JDK提供的注解,只是Spring在实现上提供了这个注解的功能支持,本文给大家介绍Springboot@... 目录【一】定义【1】@Autowired【2】@Resource【二】区别【1】包含的属性不同【2】@

springboot循环依赖问题案例代码及解决办法

《springboot循环依赖问题案例代码及解决办法》在SpringBoot中,如果两个或多个Bean之间存在循环依赖(即BeanA依赖BeanB,而BeanB又依赖BeanA),会导致Spring的... 目录1. 什么是循环依赖?2. 循环依赖的场景案例3. 解决循环依赖的常见方法方法 1:使用 @La

Java枚举类实现Key-Value映射的多种实现方式

《Java枚举类实现Key-Value映射的多种实现方式》在Java开发中,枚举(Enum)是一种特殊的类,本文将详细介绍Java枚举类实现key-value映射的多种方式,有需要的小伙伴可以根据需要... 目录前言一、基础实现方式1.1 为枚举添加属性和构造方法二、http://www.cppcns.co

使用Python实现快速搭建本地HTTP服务器

《使用Python实现快速搭建本地HTTP服务器》:本文主要介绍如何使用Python快速搭建本地HTTP服务器,轻松实现一键HTTP文件共享,同时结合二维码技术,让访问更简单,感兴趣的小伙伴可以了... 目录1. 概述2. 快速搭建 HTTP 文件共享服务2.1 核心思路2.2 代码实现2.3 代码解读3.

Elasticsearch 在 Java 中的使用教程

《Elasticsearch在Java中的使用教程》Elasticsearch是一个分布式搜索和分析引擎,基于ApacheLucene构建,能够实现实时数据的存储、搜索、和分析,它广泛应用于全文... 目录1. Elasticsearch 简介2. 环境准备2.1 安装 Elasticsearch2.2 J