Spring线程池异步传递MDC信息和TraceId

2024-06-20 06:48

本文主要是介绍Spring线程池异步传递MDC信息和TraceId,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录

1. 什么是MDC

2. 引入MDC打印步骤

2.1 pom依赖 

2.2 log4j2打印日志配置文件

3 步骤演示

3.1 单线程业务使用示例

postman查询示例

查询代码

查询日志

3.2 自定义MDC异步线程池

 自定义异步MDC线程池代码

 初始化线程池

通过注解和注入方式使用

入口代码

结果示例

3.3 包装单个线程 

包装MDCRunable 

包装MDCCallable

声明普通线程池

使用包装线程

4 总结


1. 什么是MDC

MDC,英文全称是 Mapped Diagnostic Context,含义是映射调试上下文。它是 log4j 和 logback 提供的一种方便在多线程条件下记录日志的类。MDC 可以看成是一个与当前线程绑定的哈希表,可以往其中添加键值对。

2. 引入MDC打印步骤

基于springboot项目中集成MDC。

1 引入log4j2的jar包

2 配置log4j3的配置

3 在打印日志前往MDC中塞入值

2.1 pom依赖 

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd"><modelVersion>4.0.0</modelVersion><parent><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-parent</artifactId><version>2.1.18.RELEASE</version><relativePath/> <!-- lookup parent from repository --></parent><groupId>com.example.demo</groupId><artifactId>elasticsearch</artifactId><version>0.0.1-SNAPSHOT</version><name>elasticsearch</name><description>Demo project for Spring Boot</description><properties><java.version>1.8</java.version><elasticsearch.client.version>6.8.5</elasticsearch.client.version><lombok.version>1.18.12</lombok.version></properties><dependencies><!-- 排除包冲突 --><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter</artifactId><exclusions><exclusion><artifactId>spring-boot-starter-logging</artifactId><groupId>org.springframework.boot</groupId></exclusion></exclusions></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-test</artifactId><scope>test</scope></dependency><dependency><groupId>org.elasticsearch.client</groupId><artifactId>elasticsearch-rest-high-level-client</artifactId><version>${elasticsearch.client.version}</version></dependency><dependency><groupId>org.elasticsearch</groupId><artifactId>elasticsearch</artifactId><version>${elasticsearch.client.version}</version></dependency><dependency><groupId>org.projectlombok</groupId><artifactId>lombok</artifactId><version>${lombok.version}</version></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><!-- 引入log4j2依赖 --><dependency> <groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-log4j2</artifactId></dependency></dependencies><build><plugins><plugin><groupId>org.springframework.boot</groupId><artifactId>spring-boot-maven-plugin</artifactId></plugin></plugins></build></project>

2.2 log4j2打印日志配置文件

resource目录下创建log4j.xml配置如下

 application.properties中添加:

##  这个是做es留下来的,不需要写
host.address.array==192.168.40.129:9200,192.168.40.129:9201,192.168.40.129:9202logging.config=classpath:log4j.xml
logging.level.root=info

log4j.xml中添加: 

<?xml version="1.0" encoding="UTF-8"?>
<Configuration status="INFO"><Appenders><!--添加一个控制台追加器--><Console name="Console" target="SYSTEM_OUT" follow="true"><PatternLayout><pattern>[%-5p] %d %c [%X{REQUEST_UUID}] - %m%n</pattern></PatternLayout></Console><!--添加一个文本追加器,文件位于根目录下,名为log.log--><File name="File" fileName="logs/log.log"><PatternLayout><pattern>[%-5p] %d %c %X{REQUEST_UUID} - %m%n</pattern></PatternLayout></File></Appenders><Loggers><Root level="INFO"><AppenderRef ref="Console" /></Root><!--把org.springframework包下的所有日志输出到log文件,additivity="false"表示不输出到控制台--><Logger name="org.springframework" level="DEBUG" additivity="true"><AppenderRef ref="File" /></Logger></Loggers>
</Configuration>

3 步骤演示

3.1 单线程业务使用示例

设想场景,查询根据书名查询书籍的信息。

postman查询示例

一般在header中设置属性requestId为32位随机数,以保证这次请求唯一,在后端比较好查询这次数据流。

查询代码

这里简单的从request中header获取前端传入的requestId。

当然也有更优雅的方式,比方自定义filter,controller执行前的filter中提前初始化MDC信息。

@GetMapping("/{bookName}")public String queryBookInfos(HttpServletRequest request,@PathVariable String bookName){String requestId = request.getHeader("requestId");if(StringUtils.isEmpty(requestId)){requestId=new UUIDGenerator().toString();}// 这里的key值需要与log4j.xml中的MDC传递的信息关键字一致MDC.put("REQUEST_UUID", requestId);// 模拟查询数据库打印log.info("开始查询名字叫{}的书籍",bookName);MDC.clear();return "已经查到书籍"+bookName;}

查询日志

查询的日志中有MDC的requestid信息,方便定位问题。


[DEBUG] 2022-01-24 15:46:03,560 org.springframework.web.servlet.DispatcherServlet [] - GET "/v1/book/%E4%B8%89%E5%9B%BD%E6%BC%94%E4%B9%89", parameters={}
[DEBUG] 2022-01-24 15:46:03,564 org.springframework.web.servlet.mvc.method.annotation.RequestMappingHandlerMapping [] - Mapped to public java.lang.String com.example.demo.elasticsearch.controller.BookController.queryBookInfos(javax.servlet.http.HttpServletRequest,java.lang.String)
[INFO ] 2022-01-24 15:46:03,575 com.example.demo.elasticsearch.controller.BookController [123456789123456789] - 开始查询名字叫三国演义的书籍
[DEBUG] 2022-01-24 15:46:03,584 org.springframework.web.servlet.mvc.method.annotation.RequestResponseBodyMethodProcessor [] - Using 'text/plain', given [*/*] and supported [text/plain, */*, text/plain, */*, application/json, application/*+json, application/json, application/*+json, application/x-jackson-smile, application/cbor]
[DEBUG] 2022-01-24 15:46:03,584 org.springframework.web.servlet.mvc.method.annotation.RequestResponseBodyMethodProcessor [] - Writing ["已经查到书籍三国演义"]
[DEBUG] 2022-01-24 15:46:03,588 org.springframework.web.servlet.DispatcherServlet [] - Completed 200 OK

3.2 自定义MDC异步线程池

自定义MDC线程池是常用的一种手段。

 自定义异步MDC线程池代码

import java.util.Map;
import java.util.concurrent.Callable;
import java.util.concurrent.Future;import lombok.NonNull;
import org.slf4j.MDC;
import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor;/*** 异步线程池,带有MDC的那种** @author zhangzhongqiu* @version 1.0* @since 2022/1/21*/
public class MdcThreadPoolTaskExecutor extends ThreadPoolTaskExecutor {/*** @param corePoolSize* @param maxPoolSize* @param keepAliveTime* @param queueCapacity* @param poolNamePrefix*/public MdcThreadPoolTaskExecutor(int corePoolSize, int maxPoolSize,int keepAliveTime, int queueCapacity, String poolNamePrefix) {setCorePoolSize(corePoolSize);setMaxPoolSize(maxPoolSize);setKeepAliveSeconds(keepAliveTime);setQueueCapacity(queueCapacity);setThreadNamePrefix(poolNamePrefix);}/*** @return*/private Map<String, String> getContextForTask() {return MDC.getCopyOfContextMap();}/*** All executions will have MDC injected. {@code ThreadPoolExecutor}'s submission methods ({@code submit()} etc.)* all delegate to this.*/@Overridepublic void execute(@NonNull Runnable command) {super.execute(wrap(command, getContextForTask()));}@NonNull@Overridepublic Future<?> submit(@NonNull Runnable task) {return super.submit(wrap(task, getContextForTask()));}@NonNull@Overridepublic <T> Future<T> submit(@NonNull Callable<T> task) {return super.submit(wrap(task, getContextForTask()));}/*** @param task* @param context* @param <T>* @return*/private static <T> Callable<T> wrap(final Callable<T> task, final Map<String, String> context) {return () -> {if (null! = context) {MDC.setContextMap(context);}try {return task.call();} finally {if (!context.isEmpty()) {MDC.clear();}}};}/**** @param runnable* @param context* @return*/private static Runnable wrap(final Runnable runnable, final Map<String, String> context) {return () -> {if (null!=context) {MDC.setContextMap(context);}try {runnable.run();} finally {if (!context.isEmpty()) {MDC.clear();}}};}}

 初始化线程池

@Configuration
public class MyConfig {@Bean(name = "mdcThreadPoolTaskExecutor" )public AsyncTaskExecutor mdcThreadPoolTaskExecutor() {// 这里也可以用metrics来监控线程池,上报数据到prometheusreturn new MdcThreadPoolTaskExecutor(null,3,5, 2, TimeUnit.SECONDS,1000,"mdcThreadPoolTaskExecutor");}
}

通过注解和注入方式使用

注解方式,主要使用@Async注解

@Slf4j
@Component
public class IndexService {@Async("mdcThreadPoolTaskExecutor")public void doSomething(Long  networkId){log.info("errptsfsdfds  {}",networkId);}
}

注入方式,有三种注入,这里列举一种注入。

    @Bean(name = "newMdcThreadPoolTaskExecutor" )public MdcThreadPoolTaskExecutor newMdcThreadPoolTaskExecutor() {// 这里也可以用metrics来监控线程池,上报数据到prometheusreturn new MdcThreadPoolTaskExecutor(null,3,5, 2, TimeUnit.SECONDS,1000,"mdcThreadPoolTaskExecutor");}
@Slf4j
@Component
public class IndexService {@Autowiredprivate MdcThreadPoolTaskExecutor mdcThreadPoolTaskExecutor;public void doSomething(Long networkId) {// 如果使用这种方式,不需要自定义线程池,使用原始线程池,自定义单个线程,并在单个线程种包装MDC信息即可mdcThreadPoolTaskExecutor.submit(() -> {log.info("对  {} 做了操作", networkId);});}}

入口代码

@Slf4j
@RestController
@RequestMapping("/v1/index")
public class IndexController {@Autowiredprivate IndexService indexService;@GetMappingpublic String get(HttpServletRequest request){String requestId = request.getHeader("requestId");if(StringUtils.isEmpty(requestId)){requestId=new UUIDGenerator().toString();}// 模拟要查询的列表,每个列表值开启了一个新的线程Long[] networkIds={123L,45L,67L,78L,899L,1000L};MDC.put("REQUEST_UUID",requestId);String s = MDC.get("REQUEST_UUID");for(Long networkId:networkIds){// 这里传入的reuqest+列表值,组成新的requestId,注意新的requestId长度MDC.put("REQUEST_UUID",s+"-"+networkId);indexService.doSomething(networkId);}return "HHHHH";}
}

结果示例

 PS:这里不探讨分布式调用链。

3.3 包装单个线程 

包装单个线程也是一种实现方式,利用构造函数可以携带额外的参数,比较灵活。

包装MDCRunable 

public class MDCRunable implements Runnable {private Map<String, String> copyOfContextMap;private Runnable runnable;public MDCRunable(Runnable runnable) {this.copyOfContextMap = MDC.getCopyOfContextMap();this.runnable = runnable;}@Overridepublic void run() {if (!copyOfContextMap.isEmpty()) {MDC.setContextMap(copyOfContextMap);}try {runnable.run();} finally {if (!copyOfContextMap.isEmpty()) {MDC.clear();}}}
}

包装MDCCallable

public class MDCCallable implements Callable<Object> {private Map<String, String> copyOfContextMap;private Callable<Object> callable;public MDCCallable(Callable<Object> callable) {this.copyOfContextMap = MDC.getCopyOfContextMap();this.callable = callable;}@Overridepublic Object call() throws Exception {if (!copyOfContextMap.isEmpty()) {MDC.setContextMap(copyOfContextMap);}try {return callable.call();} finally {if (!copyOfContextMap.isEmpty()) {MDC.clear();}}}
}

声明普通线程池

  @Bean(name = "threadPoolTaskExecutor" )public ThreadPoolTaskExecutor threadPoolTaskExecutor() {// 这里也可以用metrics来监控线程池,上报数据到prometheusThreadPoolTaskExecutor threadPoolTaskExecutor = new ThreadPoolTaskExecutor();threadPoolTaskExecutor.setCorePoolSize(22);threadPoolTaskExecutor.setMaxPoolSize(22);threadPoolTaskExecutor.setThreadNamePrefix("pool");return threadPoolTaskExecutor;}

使用包装线程

@Slf4j
@Component
public class IndexService {@Autowiredprivate ThreadPoolTaskExecutor threadPoolTaskExecutor;public void doSomething(Long networkId) {// 如果使用这种方式,不需要自定义线程池,使用原始线程池,自定义单个线程,并在单个线程种包装MDC信息即可threadPoolTaskExecutor.execute(new MDCRunable(() -> log.info("对  {} 做了操作", networkId)));}}

4 总结

  • 这里不介绍分布式调用链
  • 这里的线程池调用写得有点问题,带有执行的结果应该用线程池submit,没有执行结果的直接用execute即可。

 5 跨线程调用传递TraceId

在线程池中用 RunnableWrapper 包裹Runnable,使用CallableWrapper包裹Callable。

这篇关于Spring线程池异步传递MDC信息和TraceId的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1077399

相关文章

springboot rocketmq配置生产者和消息者的步骤

《springbootrocketmq配置生产者和消息者的步骤》本文介绍了如何在SpringBoot中集成RocketMQ,包括添加依赖、配置application.yml、创建生产者和消费者,并展... 目录1. 添加依赖2. 配置application.yml3. 创建生产者4. 创建消费者5. 使用在

Spring Retry 实现乐观锁重试实践记录

《SpringRetry实现乐观锁重试实践记录》本文介绍了在秒杀商品SKU表中使用乐观锁和MybatisPlus配置乐观锁的方法,并分析了测试环境和生产环境的隔离级别对乐观锁的影响,通过简单验证,... 目录一、场景分析 二、简单验证 2.1、可重复读 2.2、读已提交 三、最佳实践 3.1、配置重试模板

Spring中@Lazy注解的使用技巧与实例解析

《Spring中@Lazy注解的使用技巧与实例解析》@Lazy注解在Spring框架中用于延迟Bean的初始化,优化应用启动性能,它不仅适用于@Bean和@Component,还可以用于注入点,通过将... 目录一、@Lazy注解的作用(一)延迟Bean的初始化(二)与@Autowired结合使用二、实例解

SpringBoot使用Jasypt对YML文件配置内容加密的方法(数据库密码加密)

《SpringBoot使用Jasypt对YML文件配置内容加密的方法(数据库密码加密)》本文介绍了如何在SpringBoot项目中使用Jasypt对application.yml文件中的敏感信息(如数... 目录SpringBoot使用Jasypt对YML文件配置内容进行加密(例:数据库密码加密)前言一、J

Java中有什么工具可以进行代码反编译详解

《Java中有什么工具可以进行代码反编译详解》:本文主要介绍Java中有什么工具可以进行代码反编译的相关资,料,包括JD-GUI、CFR、Procyon、Fernflower、Javap、Byte... 目录1.JD-GUI2.CFR3.Procyon Decompiler4.Fernflower5.Jav

Spring Boot 中正确地在异步线程中使用 HttpServletRequest的方法

《SpringBoot中正确地在异步线程中使用HttpServletRequest的方法》文章讨论了在SpringBoot中如何在异步线程中正确使用HttpServletRequest的问题,... 目录前言一、问题的来源:为什么异步线程中无法访问 HttpServletRequest?1. 请求上下文与线

在 Spring Boot 中使用异步线程时的 HttpServletRequest 复用问题记录

《在SpringBoot中使用异步线程时的HttpServletRequest复用问题记录》文章讨论了在SpringBoot中使用异步线程时,由于HttpServletRequest复用导致... 目录一、问题描述:异步线程操作导致请求复用时 Cookie 解析失败1. 场景背景2. 问题根源二、问题详细分

Java对象和JSON字符串之间的转换方法(全网最清晰)

《Java对象和JSON字符串之间的转换方法(全网最清晰)》:本文主要介绍如何在Java中使用Jackson库将对象转换为JSON字符串,并提供了一个简单的工具类示例,该工具类支持基本的转换功能,... 目录前言1. 引入 Jackson 依赖2. 创建 jsON 工具类3. 使用示例转换 Java 对象为

SpringBoot快速接入OpenAI大模型的方法(JDK8)

《SpringBoot快速接入OpenAI大模型的方法(JDK8)》本文介绍了如何使用AI4J快速接入OpenAI大模型,并展示了如何实现流式与非流式的输出,以及对函数调用的使用,AI4J支持JDK8... 目录使用AI4J快速接入OpenAI大模型介绍AI4J-github快速使用创建SpringBoot

Java中的Cursor使用详解

《Java中的Cursor使用详解》本文介绍了Java中的Cursor接口及其在大数据集处理中的优势,包括逐行读取、分页处理、流控制、动态改变查询、并发控制和减少网络流量等,感兴趣的朋友一起看看吧... 最近看代码,有一段代码涉及到Cursor,感觉写法挺有意思的。注意是Cursor,而不是Consumer