实际使用动态线程池框架dynamic-tp

2024-08-23 18:52

本文主要是介绍实际使用动态线程池框架dynamic-tp,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

实际使用动态线程池框架dynamic-tp

2024年7月21日

文章目录

  • 实际使用动态线程池框架dynamic-tp
    • 1 背景
    • 2 明确任务范围
      • 2.1 技术选型
      • 2.2 引入dynamic-tp
    • 2.引入时产生的问题
      • 2.1 一些遗憾
    • 3.参数怎么跟随业务修改?
    • 参考文章:

1 背景

前段时间新入职了一家公司,组长看我已经有点开发年头了,委任给我一个大活,想让我可以监控任务队列,以及线程池的其他参数,如果有修改、监控到异常则需要进行告警,并且支持实施修改线程池参数。

2 明确任务范围

首先并不是为了强行使用动态线程池框架而使用他,使用它的原因是我们的需求就是:

  • 实时监控线程池参数
  • 修改实时监控线程池参数的一些状态
  • 以及进行及时的告警
  • 做到实时修改我们的线程池参数

虽然JDK8可以做到通过方法直接修改线程池参数。但是如果自己手写的话则会浪费很多时间。为了避免重复造轮子,我决定及时使用开源框架。

2.1 技术选型

当然也不是非得使用dynamic-tp不可,首先我们需要看行业中有没有合适的框架或者思路供我们选择,我们发现了这个框架

图18 动态化线程池功能架构

这个美团技术团队对动态线程池该做什么的功能架构,这刚好和我们的需求不谋而合

此时行业中比较好的开源框架有这两个,dynamic-tp和hippo4j,hoppo4j架构是C/S模式,所以需要新增一个hippo4j服务端,那么如果需要一个线上配置环境修改配置的话,那么hippo4j会好一点,我们目前没有这个需求,所以会使用dynamic-tp,直接引用即可,并且通过集成到自己的配置中心就好了(当然看业务需求是怎么样的,毕竟hippo4j在GitHub上的star数量比dynamictp多一些)

2.2 引入dynamic-tp

(具体请看dynamic-tp的官网操作)

  1. 我们是使用的nacos作为配置中心和服务发现中心,所以需要引入对应的nacos包

  2. dynamic-tp只能使用注解强化Java和spring的自带线程池,所以我们只使用配置文件的方式将业务需要使用的线程池放到Dtp注册器里面

  3. 在原有的需要放入线程操作的代码中放一下对应的Dtp注册器里面的线程池进行替换

2.引入时产生的问题

  1. 我们需要自定义告警信息,如果使用自带的wechat提醒或者钉钉提醒,只是通过机器人进行提醒,我们需要使用自己的API

    我们使用了自己的API进行了解决,并且使用Java SPI进行了服务提供

  2. 使用自定义告警信息,涉及到了API,但是自己的API需要从spring的IOC容器里面获取,但是自定义的告警通知是无法拿到的

    通过@dependOn解决了这个问题

  3. 我们想使用自定义的拒绝策略

    使用Java SPI进行了拒绝策略的自定义

  4. 使用dynamic-tp需要考虑到一些公共的修改,比如我们的wechat自定义提醒,自定义拒绝策略,每一次都引入再添加共同的代码文件比较麻烦

    我们进行了二次封装,再二次封装的代码中加入了这些修改,这样其他微服务使用dynamic-tp框架时候可以直接使用我们的二次封装的框架

    我们并没有使用@import等注解,而是在引入后使用ComponentScan注解主动扫描的

2.1 一些遗憾

  1. 使用的自定义告警、拒绝策略,则需要使用Java spi进行服务提供与发现,不能使用spring的自动装配
  2. 只有Java或者spring自带的线程池可以被使用注解强化,用处不大,反而是如果可以使用注解在ThreadPoolExecutor的话则对我们帮助很大

当然,dynamic-tp本身我是很喜欢的,他帮我提前造好了轮子,提升了我们的开发效率。

3.参数怎么跟随业务修改?

线程池参数并不是一成不变的,后续肯定会随着业务的需要进行修改。修改之前需要考虑一下是否有资源没有用到,有时候就是会出现资源没有使用全(如LB没有重定向好)导致的资源紧张。

修改线程池参数一般只会修改核心线程数、最大线程数、任务队列这几个信息。线程池执行情况与任务类型相关性较大,IO 密集型和 CPU 密集型的任务运行起来的情况差异非常大,所以一般我们每个微服务会有两个线程池,一个用于做IO密集型,一个用于做CPU密集型任务,这两个线程池的参数调试肯定是不一样的

具体的方法有这几种:

  1. 根据经验猜

  2. 此处我放一张行业内比较认可的图片

    img

    这几种方式见仁见智

  3. 根据方法二的调参进行修改,同时使用动态线程池实时监控线程池负载,如果线程池逐步正常,则表明修改后的参数可以满足业务需求

参考文章:

  • Hippo4J官网
  • Java线程池实现原理及其在美团业务中的实践
  • dynamic-tp官网
  • 一文读懂线程池的实现原理
  • 动态调整线程池参数实践

这篇关于实际使用动态线程池框架dynamic-tp的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1100217

相关文章

中文分词jieba库的使用与实景应用(一)

知识星球:https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义: 精确模式(默认模式): 全模式: 搜索引擎模式: paddle 模式(基于深度学习的分词模式): 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取

使用SecondaryNameNode恢复NameNode的数据

1)需求: NameNode进程挂了并且存储的数据也丢失了,如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2)故障模拟 (1)kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 (2)删除NameNode存储的数据(/opt/module/hadoop-3.1.4/data/tmp/dfs/na

Hadoop数据压缩使用介绍

一、压缩原则 (1)运算密集型的Job,少用压缩 (2)IO密集型的Job,多用压缩 二、压缩算法比较 三、压缩位置选择 四、压缩参数配置 1)为了支持多种压缩/解压缩算法,Hadoop引入了编码/解码器 2)要在Hadoop中启用压缩,可以配置如下参数

Makefile简明使用教程

文章目录 规则makefile文件的基本语法:加在命令前的特殊符号:.PHONY伪目标: Makefilev1 直观写法v2 加上中间过程v3 伪目标v4 变量 make 选项-f-n-C Make 是一种流行的构建工具,常用于将源代码转换成可执行文件或者其他形式的输出文件(如库文件、文档等)。Make 可以自动化地执行编译、链接等一系列操作。 规则 makefile文件

第10章 中断和动态时钟显示

第10章 中断和动态时钟显示 从本章开始,按照书籍的划分,第10章开始就进入保护模式(Protected Mode)部分了,感觉从这里开始难度突然就增加了。 书中介绍了为什么有中断(Interrupt)的设计,中断的几种方式:外部硬件中断、内部中断和软中断。通过中断做了一个会走的时钟和屏幕上输入字符的程序。 我自己理解中断的一些作用: 为了更好的利用处理器的性能。协同快速和慢速设备一起工作

使用opencv优化图片(画面变清晰)

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化,使其看起来更清晰,同时保持尺寸不变,通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多,主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器:相机传

动态规划---打家劫舍

题目: 你是一个专业的小偷,计划偷窃沿街的房屋。每间房内都藏有一定的现金,影响你偷窃的唯一制约因素就是相邻的房屋装有相互连通的防盗系统,如果两间相邻的房屋在同一晚上被小偷闯入,系统会自动报警。 给定一个代表每个房屋存放金额的非负整数数组,计算你 不触动警报装置的情况下 ,一夜之内能够偷窃到的最高金额。 思路: 动态规划五部曲: 1.确定dp数组及含义 dp数组是一维数组,dp[i]代表

pdfmake生成pdf的使用

实际项目中有时会有根据填写的表单数据或者其他格式的数据,将数据自动填充到pdf文件中根据固定模板生成pdf文件的需求 文章目录 利用pdfmake生成pdf文件1.下载安装pdfmake第三方包2.封装生成pdf文件的共用配置3.生成pdf文件的文件模板内容4.调用方法生成pdf 利用pdfmake生成pdf文件 1.下载安装pdfmake第三方包 npm i pdfma

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合,内部除了存储元素外,还会存储一个score,存储在zset中的元素会按照score的大小升序排列,不同元素的score可以重复,score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]

git使用的说明总结

Git使用说明 下载安装(下载地址) macOS: Git - Downloading macOS Windows: Git - Downloading Windows Linux/Unix: Git (git-scm.com) 创建新仓库 本地创建新仓库:创建新文件夹,进入文件夹目录,执行指令 git init ,用以创建新的git 克隆仓库 执行指令用以创建一个本地仓库的