动态代理导致的Metaspace OOM(元空间内存溢出)问题

2024-04-16 05:28

本文主要是介绍动态代理导致的Metaspace OOM(元空间内存溢出)问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

个人博客地址:https://blog.flycat.tech/archives/1710866783664

背景

我们团队的一个项目,测试环境最近隔三岔五报错,虽然不是生产环境,但既然有报错那还是得排查下,以免带到了生产环境导致事故。

登录上测试环境服务器,查了下日志,发现是Metaspace内存溢出。

image.png

思路

1、首先我们知道,JDK1.8的Metaspace是在堆外内存的,那么堆分析神器MAT在此案例中没有用武之地;
2、Metaspace中存放的内容包括类结构信息、常量池(编译时字面量等)、字节码等等
3、内存溢出是运行时发生的,考虑到大量的框架用到了动态代理生成字节码等技术,可以将关注点放在生成了大量的类上面
4、由于测试环境是偶尔发生,说明需要请求积累到一定的量才会发生,本地调试直接调对应报错的接口的话可能没法复现出来,此时可以使用postman或jmeter等进行简单压测

复现

因为是测试环境,直接拉test分支在本地跑就好了,使用jmeter调用报错接口,设置20个并发进行压测。
打开Visual VM工具,连接到对应进程,在压测过程中,虽然没有发生Metaspace内存溢出,但是发现Metaspace确实一直在上涨。

CleanShot 2024-03-20 at 00.37.05@2x.png

排查

JDK1.8的Metaspace区域是保存字面量和符号引用字面量就是类中的字符串常量,符号引用就是类元数据信息,父类、接口、属性、方法名等,那么首先排查是否有大量动态代理类加载。

应用启动变量增加几个参数:

-XX:MetaspaceSize=128m
-XX:MaxMetaspaceSize=256m
-XX:+TraceClassLoading
-XX:+TraceClassUnloading

继续对接口进行压测,一开始有一大堆乱七八糟的日志信息,不过继续压了一会以后,日志中频繁出现了一个代理类的加载信息:com.alibaba.fastjson.serializer.ASMSerializer_1_RespResult

CleanShot 2024-03-20 at 00.35.55@2x.png

因此可以确定是代理类 com.alibaba.fastjson.serializer.ASMSerializer_1_RespResult加载太多次问题,此时基本可以锁定是fastjson使用方式错误问题。

找到fastjson依赖包下找到 com.alibaba.fastjson.serializer路径,发现有一个ASMSerializerFactory的类,在这个类中搜索ASMSerializer_关键字,发现类名生成规则如下:

String className = "ASMSerializer_" + seed.incrementAndGet() + "_" + clazz.getSimpleName();

跟加载的类完全吻合。打上条件断点调接口,根据debug堆栈信息发现是引入的公司内部开发的链路追踪组件包,其实现了ResponseBodyAdvice在结果返回之前拦截,对数据进行脱敏后记录在链路追踪上下文中。

搜下整个链路使用fastjson的情况(可以使用打断点方式),定位到有一处不正规使用方式:

CleanShot 2024-03-20 at 00.40.00.png

CleanShot 2024-03-20 at 00.41.24.png

使用fastjson的SerializeConfig。SerializeConfig创建时默认会创建一个ASM代理类用来实现对目标对象的序列化。也就是上面被频繁创建的类 com.alibaba.fastjson.serializer.ASMSerializer_1_RespResult,如果我们复用SerializeConfig,fastjson会去寻找已经创建的代理类,
从而复用。但是如果new SerializeConfig(),则找不到原来生成的代理类,就会一直去生成新的RespResult代理类。

new SerializeConfig构造方法

修复方案

改成只初始化一次SerializeConfig即可

结论

  1. fastjson的SerializeConfig自定义类的序列化方式有坑,请注意。
  2. 对于使用了ASM等字节码增强工具的类库,在使用他们时请多加小心(尤其是JDK1.8以后)

这篇关于动态代理导致的Metaspace OOM(元空间内存溢出)问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/907900

相关文章

关于@MapperScan和@ComponentScan的使用问题

《关于@MapperScan和@ComponentScan的使用问题》文章介绍了在使用`@MapperScan`和`@ComponentScan`时可能会遇到的包扫描冲突问题,并提供了解决方法,同时,... 目录@MapperScan和@ComponentScan的使用问题报错如下原因解决办法课外拓展总结@

MybatisGenerator文件生成不出对应文件的问题

《MybatisGenerator文件生成不出对应文件的问题》本文介绍了使用MybatisGenerator生成文件时遇到的问题及解决方法,主要步骤包括检查目标表是否存在、是否能连接到数据库、配置生成... 目录MyBATisGenerator 文件生成不出对应文件先在项目结构里引入“targetProje

C#使用HttpClient进行Post请求出现超时问题的解决及优化

《C#使用HttpClient进行Post请求出现超时问题的解决及优化》最近我的控制台程序发现有时候总是出现请求超时等问题,通常好几分钟最多只有3-4个请求,在使用apipost发现并发10个5分钟也... 目录优化结论单例HttpClient连接池耗尽和并发并发异步最终优化后优化结论我直接上优化结论吧,

Java内存泄漏问题的排查、优化与最佳实践

《Java内存泄漏问题的排查、优化与最佳实践》在Java开发中,内存泄漏是一个常见且令人头疼的问题,内存泄漏指的是程序在运行过程中,已经不再使用的对象没有被及时释放,从而导致内存占用不断增加,最终... 目录引言1. 什么是内存泄漏?常见的内存泄漏情况2. 如何排查 Java 中的内存泄漏?2.1 使用 J

numpy求解线性代数相关问题

《numpy求解线性代数相关问题》本文主要介绍了numpy求解线性代数相关问题,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 在numpy中有numpy.array类型和numpy.mat类型,前者是数组类型,后者是矩阵类型。数组

解决systemctl reload nginx重启Nginx服务报错:Job for nginx.service invalid问题

《解决systemctlreloadnginx重启Nginx服务报错:Jobfornginx.serviceinvalid问题》文章描述了通过`systemctlstatusnginx.se... 目录systemctl reload nginx重启Nginx服务报错:Job for nginx.javas

Redis缓存问题与缓存更新机制详解

《Redis缓存问题与缓存更新机制详解》本文主要介绍了缓存问题及其解决方案,包括缓存穿透、缓存击穿、缓存雪崩等问题的成因以及相应的预防和解决方法,同时,还详细探讨了缓存更新机制,包括不同情况下的缓存更... 目录一、缓存问题1.1 缓存穿透1.1.1 问题来源1.1.2 解决方案1.2 缓存击穿1.2.1

vue解决子组件样式覆盖问题scoped deep

《vue解决子组件样式覆盖问题scopeddeep》文章主要介绍了在Vue项目中处理全局样式和局部样式的方法,包括使用scoped属性和深度选择器(/deep/)来覆盖子组件的样式,作者建议所有组件... 目录前言scoped分析deep分析使用总结所有组件必须加scoped父组件覆盖子组件使用deep前言

VUE动态绑定class类的三种常用方式及适用场景详解

《VUE动态绑定class类的三种常用方式及适用场景详解》文章介绍了在实际开发中动态绑定class的三种常见情况及其解决方案,包括根据不同的返回值渲染不同的class样式、给模块添加基础样式以及根据设... 目录前言1.动态选择class样式(对象添加:情景一)2.动态添加一个class样式(字符串添加:情

解决Cron定时任务中Pytest脚本无法发送邮件的问题

《解决Cron定时任务中Pytest脚本无法发送邮件的问题》文章探讨解决在Cron定时任务中运行Pytest脚本时邮件发送失败的问题,先优化环境变量,再检查Pytest邮件配置,接着配置文件确保SMT... 目录引言1. 环境变量优化:确保Cron任务可以正确执行解决方案:1.1. 创建一个脚本1.2. 修