SpringCache配置Redis有效解决缓存击穿和缓存雪崩问题

2023-10-26 04:15

本文主要是介绍SpringCache配置Redis有效解决缓存击穿和缓存雪崩问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

初始代码

作者参考的一篇CSDN的配置函数代码,实在不好意思,作者忘记是哪位博主了:

    /*** 设置CacheManager缓存规则* @param factory* @return*/@Beanpublic CacheManager cacheManager(RedisConnectionFactory factory) {RedisSerializer<String> redisSerializer = new StringRedisSerializer();//解决查询缓存转换异常的问题ObjectMapper om = new ObjectMapper();om.setVisibility(PropertyAccessor.ALL, JsonAutoDetect.Visibility.ANY);om.activateDefaultTyping(LaissezFaireSubTypeValidator.instance ,ObjectMapper.DefaultTyping.NON_FINAL);GenericJackson2JsonRedisSerializer jackson2JsonRedisSerializer = new GenericJackson2JsonRedisSerializer(om);// 配置序列化(解决乱码的问题),过期时间600秒RedisCacheConfiguration config = RedisCacheConfiguration.defaultCacheConfig().entryTtl(Duration.ofSeconds(600))//.entryTtl(randomTtl())// 使用随机TTL.serializeKeysWith(RedisSerializationContext.SerializationPair.fromSerializer(redisSerializer)).serializeValuesWith(RedisSerializationContext.SerializationPair.fromSerializer(jackson2JsonRedisSerializer)).disableCachingNullValues();RedisCacheManager cacheManager = RedisCacheManager.builder(factory).cacheDefaults(config).build();return cacheManager;}

上述代码配置了一个RedisCacheManager,这是Spring Cache与Redis集成的核心部分。代码中进行了以下配置(了解即可):

  1. 键和值的序列化

    • 为键使用了StringRedisSerializer,这意味着你的缓存键将存储为字符串。
    • 为值使用了GenericJackson2JsonRedisSerializer,该序列化程序基于Jackson,并能处理复杂的Java对象。
  2. JSON映射配置

    • 通过ObjectMapper配置来确保所有属性都是可见的,并默认序列化所有非final类的对象。这有助于确保多态类型的正确序列化。
  3. 缓存配置

    • 缓存条目的默认过期时间设置为600秒
    • 禁用了null值的缓存,这意味着如果某个方法返回null,它不会被缓存。

总的来说,这个配置为一个基本的Redis缓存机制提供了一个很好的起点。但还需要注意考虑一些策略来处理高并发环境下的缓存击穿和雪崩问题。


缓存击穿与缓存雪崩

缓存击穿和缓存雪崩是缓存系统中的两个常见问题,特别是在高并发环境下。它们可能导致系统性能下降,甚至造成服务中断。下面我将分别解释这两个问题,并提供相应的解决策略:

  1. 缓存击穿

    • 描述:指的是一个已经在缓存中的键突然变得非常热门。当该键的缓存到期时,大量的请求会同时去数据库中查询数据,从而可能导致数据库压力过大。
    • 解决策略:
      • 互斥锁第一个请求负责从数据库中加载数据并放入缓存,其余请求等待第一个请求处理完毕。(本文通过互斥锁解决缓存击穿问题,后文中有详细介绍)
      • 设置不过期:对于某些热门键,可以设置为永不过期,并在应用中手动管理其生命周期。
  2. 缓存雪崩

    • 描述:当多个缓存键同时到期,可能导致大量的请求同时访问数据库,从而导致数据库崩溃。
    • 解决策略:
      • 随机设置过期时间给每个缓存键设置一个随机的过期时间,避免多个键同时过期。(本文暂时利用此方法缓解雪崩问题)
      • 双层缓存:使用两层缓存,一层过期时间稍长,另一层过期时间稍短。当短的过期时,从长的获取数据,并异步更新长缓存中的数据。
      • 预热缓存:在某些键即将过期前,预先从数据库中加载数据到缓存。(好帅)
      • 使用熔断机制:在数据库压力过大时,暂时停止部分或所有请求,等待系统恢复。(好帅,好想完成)

除了上述策略,还有一些其它的策略可以应对这两个问题,例如使用限流算法(如Token Bucket、Leaky Bucket)来限制对数据库的访问频率,或者使用备份数据库来分散读取的压力。


代码实现

基于之前的代码,以下是如何增加处理缓存击穿和缓存雪崩的策略:

缓存击穿的解决策略

当我们讨论缓存击穿时,我们通常是指某一个缓存键值突然变得非常受欢迎。例如,想象一下有一个热门商品的数据被缓存,但是这个缓存即将到期。当缓存真正到期时,大量的并发请求可能会试图获取这个数据,发现缓存中没有数据,然后都会去数据库中查找。这可能会导致数据库压力过大。

这里的互斥锁策略的想法是:当缓存过期并且有多个线程尝试获取数据时,只让一个线程去数据库中查询数据并更新缓存,而其他线程则等待这个线程完成操作。这样,数据库只接受一个查询请求,而不是多个并发请求。

这可以使用Spring的@Cacheablesync属性实现。在@Cacheable注解中,添加sync属性:

@Cacheable(value = "allUsers", sync = true)
@Override
public List<User> selectAll() {return userRepository.findAll();
}

sync = true时,如果缓存值不存在,则只有一个线程会执行方法selectAll()并获取数据放入缓存中,其他的并发线程将会等待,直到第一个线程完成操作并将数据放入缓存。这就减少了对数据库的并发请求。

这个策略的主要好处是减轻了数据库的压力,但缺点是当缓存过期时,访问这个数据的请求可能会有一些延迟,因为它们可能需要等待其他线程完成数据加载。


缓存雪崩的解决策略

给每个缓存键设置一个随机的过期时间来避免许多键同时过期。这可以在RedisCacheConfiguration中设置:

首先,我们为缓存的TTL(time-to-live)定义一个随机范围:

import java.util.concurrent.ThreadLocalRandom;...private Duration randomTtl() {int baseTtl = 600; //基础TTLint randomRange = 120; //随机范围,比如+/- 120秒int randomTtl = baseTtl + ThreadLocalRandom.current().nextInt(-randomRange, randomRange);return Duration.ofSeconds(randomTtl);
}

接着,将RedisCacheConfiguration中的TTL设置为随机TTL:

RedisCacheConfiguration config = RedisCacheConfiguration.defaultCacheConfig().entryTtl(randomTtl()) // 使用随机TTL.serializeKeysWith(RedisSerializationContext.SerializationPair.fromSerializer(redisSerializer)).serializeValuesWith(RedisSerializationContext.SerializationPair.fromSerializer(jackson2JsonRedisSerializer)).disableCachingNullValues();

现在,每次创建新的缓存条目时,都会为其分配一个在给定范围内的随机TTL。


缓存击穿中的互斥锁问题

显而易见,随机TTL带来的风险比较小,我们可以暂时忽略它,但是,互斥锁,真的是可以随意使用吗?

互斥锁在解决缓存击穿问题上是很有用的,但是不应该盲目地在每一个键上都使用它。以下是考虑使用互斥锁的情境:

  1. 热门的键:如果一个键非常热门,并且在其缓存条目过期后预期会有大量并发请求,那么为这样的键设置互斥锁是有意义的。

  2. 高代价的数据加载:如果从数据源加载数据(例如从数据库或其他服务)的代价非常高,那么即使键不是特别热门,也可能值得使用互斥锁来避免多次并发加载。

  3. 高并发环境:在高并发环境中,即使某些键不是每时每刻都很热门,它们也可能在某个时间点突然变得很受欢迎。在这种情况下,互斥锁也可以提供帮助。

然而,如你所提到的,使用互斥锁也有一些开销:

  • 性能开销:当多个线程因为锁而被迫等待时,会有一定的性能损失。

  • 资源消耗:锁机制需要额外的资源来管理。

  • 增加复杂性:引入锁机制可能会使代码和系统架构变得更加复杂。

综上所述,确实不建议在所有键上都使用互斥锁。它应当被视为一个工具,只在确实需要时使用而不是一种普遍的策略。在决定使用互斥锁之前,应该根据具体应用的需求和场景进行深入的评估。


作者对待互斥锁的方式

对于作者简单的系统,互斥锁暂时是用不了。但作者本着“学都学了”的原则,考虑在测试中模拟缓存击穿问题,然后验证互斥锁的能力。下面是一个简单的方法来模拟和测试:

  1. 创建一个热门的键:选择一个经常被查询的数据对象,例如一个特定的User对象。

  2. 手动清除这个键的缓存:使用Spring的CacheManager手动清除特定的缓存键值。

  3. 使用压力测试工具:使用Apache JMeter压力测试工具,创建大量并发的请求来查询这个User对象。

  4. 观察没有互斥锁时的表现

    • 检查数据库的负载和查询次数
    • 观察响应时间
  5. 启用互斥锁:在查询这个User对象的方法上加上@Cacheable(sync = true)

  6. 再次执行压力测试:与第3步相同,创建大量并发请求。

  7. 观察有互斥锁时的表现

    • 再次检查数据库的负载和查询次数。理论上,查询次数应该大大减少
    • 观察响应时间。可能会看到稍微增加的响应时间,因为一些请求可能在等待锁。不过也不一定,响应时间也可能会比没有互斥锁的情况要快,特别是在高并发情况下,一旦缓存被成功填充,后续的请求将会得到非常快的响应时间。

这篇关于SpringCache配置Redis有效解决缓存击穿和缓存雪崩问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/285417

相关文章

怎样通过分析GC日志来定位Java进程的内存问题

《怎样通过分析GC日志来定位Java进程的内存问题》:本文主要介绍怎样通过分析GC日志来定位Java进程的内存问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、GC 日志基础配置1. 启用详细 GC 日志2. 不同收集器的日志格式二、关键指标与分析维度1.

Java 线程安全与 volatile与单例模式问题及解决方案

《Java线程安全与volatile与单例模式问题及解决方案》文章主要讲解线程安全问题的五个成因(调度随机、变量修改、非原子操作、内存可见性、指令重排序)及解决方案,强调使用volatile关键字... 目录什么是线程安全线程安全问题的产生与解决方案线程的调度是随机的多个线程对同一个变量进行修改线程的修改操

Redis出现中文乱码的问题及解决

《Redis出现中文乱码的问题及解决》:本文主要介绍Redis出现中文乱码的问题及解决,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1. 问题的产生2China编程. 问题的解决redihttp://www.chinasem.cns数据进制问题的解决中文乱码问题解决总结

Linux中SSH服务配置的全面指南

《Linux中SSH服务配置的全面指南》作为网络安全工程师,SSH(SecureShell)服务的安全配置是我们日常工作中不可忽视的重要环节,本文将从基础配置到高级安全加固,全面解析SSH服务的各项参... 目录概述基础配置详解端口与监听设置主机密钥配置认证机制强化禁用密码认证禁止root直接登录实现双因素

嵌入式数据库SQLite 3配置使用讲解

《嵌入式数据库SQLite3配置使用讲解》本文强调嵌入式项目中SQLite3数据库的重要性,因其零配置、轻量级、跨平台及事务处理特性,可保障数据溯源与责任明确,详细讲解安装配置、基础语法及SQLit... 目录0、惨痛教训1、SQLite3环境配置(1)、下载安装SQLite库(2)、解压下载的文件(3)、

全面解析MySQL索引长度限制问题与解决方案

《全面解析MySQL索引长度限制问题与解决方案》MySQL对索引长度设限是为了保持高效的数据检索性能,这个限制不是MySQL的缺陷,而是数据库设计中的权衡结果,下面我们就来看看如何解决这一问题吧... 目录引言:为什么会有索引键长度问题?一、问题根源深度解析mysql索引长度限制原理实际场景示例二、五大解决

Springboot如何正确使用AOP问题

《Springboot如何正确使用AOP问题》:本文主要介绍Springboot如何正确使用AOP问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录​一、AOP概念二、切点表达式​execution表达式案例三、AOP通知四、springboot中使用AOP导出

Python中Tensorflow无法调用GPU问题的解决方法

《Python中Tensorflow无法调用GPU问题的解决方法》文章详解如何解决TensorFlow在Windows无法识别GPU的问题,需降级至2.10版本,安装匹配CUDA11.2和cuDNN... 当用以下代码查看GPU数量时,gpuspython返回的是一个空列表,说明tensorflow没有找到

解决未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4‘问题

《解决未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4‘问题》:本文主要介绍解决未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4... 目录未解析的依赖项:‘net.sf.json-lib:json-lib:jar:2.4‘打开pom.XM

XML重复查询一条Sql语句的解决方法

《XML重复查询一条Sql语句的解决方法》文章分析了XML重复查询与日志失效问题,指出因DTO缺少@Data注解导致日志无法格式化、空指针风险及参数穿透,进而引发性能灾难,解决方案为在Controll... 目录一、核心问题:从SQL重复执行到日志失效二、根因剖析:DTO断裂引发的级联故障三、解决方案:修复