一次Redis任务队列积压的问题分析与解决

2024-06-16 13:32

本文主要是介绍一次Redis任务队列积压的问题分析与解决,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目前的流程:

 

两个Redis:

Redis1: 存储词条的summary信息

Redis2:任务队列,用于暂存Redis中没有summary,需要进行处理获取summary, 队列用的Redis的list结构

 

两个进程:

1、 进程1:服务进程

接收请求,划内链词,然后从Redis1中去获取词的summary, 如果获取失败,则返回code=4的错误,并将词条id写入任务队列Redis2等待被进程2处理

 

2、进程2:读取Summary的进程

循环从任务队列Redis2中读取词条id,并调用一个A接口获取词条的summary信息,写入Redis1中,并设置过期时间为3天

 

 

最近暴露出来的问题:

      一个请求重复请求很多次后,仍然返回code=4的错误

      但是按照上述逻辑,如果速度够快的话,第一次请求的时候返回code=4的错误,第二次应该是可以拿到数据的

 

分析原因:

      首先查看了Redis1,的确拿不到对应词条的summary信息

      手动获取了summary并存入Redis1后,请求可以获取到数据

      看来的确是因为Redis中获取不到数据而导致的

      看了下Redis2的长度, 居然积压了1000多万!

      的确, 最近 A接口(也就是进程2中获取summary的接口挂掉了很长一段时间), 而且可以观察到,这个Redis2队列的长度仍然在不断升高,一晚上的时间上升了接近40万

      队列长度不断飙升,一方面是因为大量的词条获取不到summary, 导致Redis1大量的miss, 而miss的都会进入到Redis2队列中

      此外,进程1和进程2速度不匹配应该也是一个原因, 进程2只有一个进程在工作,而进程1是有4个进程在工作

 

解决办法:

      提高进程2的数量, 当然在提高进程2的数量的时候,我首先得知道获取summary的A接口的服务能力, 因为我这些进程会调这同一个接口

      于是我用ab压测了下那个接口,服务能力大概在150 QPS, 于是我可以放心的提高我的进程数了

      我将进程数从1提高到了5, 可以看到队列中积压的数据正在逐渐的减少了,大概每秒减少100多个, 这样一天左右,积压的数据就会全部被处理掉 

这篇关于一次Redis任务队列积压的问题分析与解决的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1066586

相关文章

Oracle登录时忘记用户名或密码该如何解决

《Oracle登录时忘记用户名或密码该如何解决》:本文主要介绍如何在Oracle12c中忘记用户名和密码时找回或重置用户账户信息,文中通过代码介绍的非常详细,对同样遇到这个问题的同学具有一定的参... 目录一、忘记账户:二、忘记密码:三、详细情况情况 1:1.1. 登录到数据库1.2. 查看当前用户信息1.

Go使用pprof进行CPU,内存和阻塞情况分析

《Go使用pprof进行CPU,内存和阻塞情况分析》Go语言提供了强大的pprof工具,用于分析CPU、内存、Goroutine阻塞等性能问题,帮助开发者优化程序,提高运行效率,下面我们就来深入了解下... 目录1. pprof 介绍2. 快速上手:启用 pprof3. CPU Profiling:分析 C

springboot3.4和mybatis plus的版本问题的解决

《springboot3.4和mybatisplus的版本问题的解决》本文主要介绍了springboot3.4和mybatisplus的版本问题的解决,主要由于SpringBoot3.4与MyBat... 报错1:spring-boot-starter/3.4.0/spring-boot-starter-

Spring Boot整合消息队列RabbitMQ的实现示例

《SpringBoot整合消息队列RabbitMQ的实现示例》本文主要介绍了SpringBoot整合消息队列RabbitMQ的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的... 目录RabbitMQ 简介与安装1. RabbitMQ 简介2. RabbitMQ 安装Spring

MySQL表锁、页面锁和行锁的作用及其优缺点对比分析

《MySQL表锁、页面锁和行锁的作用及其优缺点对比分析》MySQL中的表锁、页面锁和行锁各有特点,适用于不同的场景,表锁锁定整个表,适用于批量操作和MyISAM存储引擎,页面锁锁定数据页,适用于旧版本... 目录1. 表锁(Table Lock)2. 页面锁(Page Lock)3. 行锁(Row Lock

在 Spring Boot 中使用异步线程时的 HttpServletRequest 复用问题记录

《在SpringBoot中使用异步线程时的HttpServletRequest复用问题记录》文章讨论了在SpringBoot中使用异步线程时,由于HttpServletRequest复用导致... 目录一、问题描述:异步线程操作导致请求复用时 Cookie 解析失败1. 场景背景2. 问题根源二、问题详细分

解读为什么@Autowired在属性上被警告,在setter方法上不被警告问题

《解读为什么@Autowired在属性上被警告,在setter方法上不被警告问题》在Spring开发中,@Autowired注解常用于实现依赖注入,它可以应用于类的属性、构造器或setter方法上,然... 目录1. 为什么 @Autowired 在属性上被警告?1.1 隐式依赖注入1.2 IDE 的警告:

解决java.lang.NullPointerException问题(空指针异常)

《解决java.lang.NullPointerException问题(空指针异常)》本文详细介绍了Java中的NullPointerException异常及其常见原因,包括对象引用为null、数组元... 目录Java.lang.NullPointerException(空指针异常)NullPointer

Android开发中gradle下载缓慢的问题级解决方法

《Android开发中gradle下载缓慢的问题级解决方法》本文介绍了解决Android开发中Gradle下载缓慢问题的几种方法,本文给大家介绍的非常详细,感兴趣的朋友跟随小编一起看看吧... 目录一、网络环境优化二、Gradle版本与配置优化三、其他优化措施针对android开发中Gradle下载缓慢的问

关于Nginx跨域问题及解决方案(CORS)

《关于Nginx跨域问题及解决方案(CORS)》文章主要介绍了跨域资源共享(CORS)机制及其在现代Web开发中的重要性,通过Nginx,可以简单地解决跨域问题,适合新手学习和应用,文章详细讲解了CO... 目录一、概述二、什么是 CORS?三、常见的跨域场景四、Nginx 如何解决 CORS 问题?五、基