工作中有没有遇到什么困难问题,最后是如何解决的?

2024-05-14 20:21

本文主要是介绍工作中有没有遇到什么困难问题,最后是如何解决的?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

时间线梳理:

  1. prd上线后CPU占用100%,与stg和pre表现不同(两者CPU占用40%多,其实也有异常,只是没有引起注意,基本无流量的情况下不应该占用如此多的CPU);
  2. 短时间内运维无法定位,尝试分析代码,去掉bgWorker中不断读取计算队列的1024个协程,CPU恢复正常0.3%,定位到问题点;
  3. 调整读取Redis队列goroutine个数到4个,把没有读取到任务后的sleep时间从300ms调整成1s,CPU占用0.4%;
  4. 尝试增加goroutine到256,CPU占用6%;
  5. 去掉部分sleep 10ms代码,CPU占用10%,Redis请求少量增加;
  6. 调整goroutine数量到1024,去掉剩余sleep 10ms代码,增加pprof采样,CPU占用50%-60%。进行pprof;
  7. 根据调用链路CPU占比图,发现获取IP地址函数占用CPU最多,与docker有关;
  8. 优化使用IP地址的逻辑(服务启动时获取一次,之后所有逻辑中直接使用,不再执行获取IP的逻辑),在stg、pre环境测试优化后的代码,CPU40%多—>5%。问题得到验证;
  9. 上线prd,CPU占用10%
  10. 空跑时占用5%CPU,也属于负载过高的情况,原因:goroutine过多,每个协程中都有一个sleep代码,sleep是靠timer定时器实现,golang1.14之后timer是由存在于P中的四叉最小堆实现。所有goroutine都会加锁访问最小堆,会有很多的锁冲突,锁操作造成CPU占用,此时空跑服务真正的合理CPU占用应该在1%左右。

工作中有没有遇到什么困难问题,最后是如何解决的?

服务上线后,没有订单任务空跑CPU占用过高。首先对自己的代码有了解,配合技术监控指标中的Redis访问6k+,猜测是bgworker模块中的1024goroutine获取计算队列任务逻辑引起。注释代码,CPU掉底,问题定位。review代码逻辑,调整goroutine数和增加sleep时间(获取不到order,为了防止服务持续访问Redis空跑,sleep一段时间),CPU稳定运行,但是问题没有得到解决。怀疑是协程里sleep加锁定时器的最小堆。联合运维、DBA(涉及到redis  P95 80ms的问题,怀疑是Redis RT过长拖垮了CPU,但是DBA反馈Redis机器整体负载很低,大部分的请求都是在2ms内返回,部分请求返回时间过长只是很小一部分,不足以拖垮服务CPU)pprof,下载pprof文件。安装graphvis查看火焰图和调用链路CPU占比图,发现是获取IP地址的golang内置函数占用CPU过高(80%+),根据调用链路和golang相关包源代码查看,定位到syscall包的NetlinkRIB获取路由相关基础信息,底层调用了Recvfrom,再底层是对Linux系统的系统调用,追查至此,和运维确定是运维系统容器化docker(新上线)对golang的支持不好导致,后续运维跟进优化。研发侧出现问题是由于,每个goroutine中每次访问Redis使用了本机IP作为分布式锁的标识,每次都是动态实时获取IP,导致每个goroutine都非常消耗CPU,而且每个goroutine除了加锁、解锁用到IP,还有根据IP作为tag上报业务指标、技术错误指标的逻辑,所以CPU占用很高。其实,IP地址这种自愈,服务随docker启动后,是不会发生变化的,因此合理的做法是服务启动后获取一次,之后直接使用。流程更加合理,也避免了运维侧docker对golang支持不好的问题。由于获取IP地址时统一使用一个util包里的函数,因此优化代码很方便,统一修改函数逻辑,取消之前的逻辑,直接读取全局变量,该全局变量由服务启动时执行获取IP的逻辑赋值。问题fixed,上线后CPU占用5%,调整sleep时间,CPU占用2.6%,其实还有优化的空间,服务空跑,只是多个协程请求Redis,无任务其他计算任务和逻辑,CPU也不应该占用这么高,原因是每个goroutine中有sleep代码,sleep是靠timer定时器实现,golang1.14之后timer是由存在于P中的四叉最小堆实现。所有goroutine靠线程M运行时都会加锁访问最小堆,会有很多的锁冲突,锁操作造成CPU占用,此时空跑服务真正的合理CPU占用应该在1%左右。各个大厂的方案是:调大timer精度,或者使用时间轮,把所有goroutine中的定时sleep任务收敛到统一的时间轮调度(相当于一个定时/延时调用系统),每个goroutine需要sleep的时候向时间轮注册一个任务,同时带上需要接收任务计时结束后收通知的channel指针,时间轮系统收到请求后根据毫秒数挂在到某个队列。时间轮以1ms或者10ms为精度,没隔1ms/10ms扫描时间轮上某个格子的列表,由于列表都是按需排队,只需检查头部几个链表元素,如果时间到则向该元素中的channel发送通知,同时移除该元素。原来的goroutine从sleep变成了等待channel通知,虽然都是gopark调用,但是不再访问定时器的最小堆,没有加锁逻辑,符合golang的使用通信来共享内存的哲学。也就没有占用CPU的情况。

这篇关于工作中有没有遇到什么困难问题,最后是如何解决的?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/989758

相关文章

好题——hdu2522(小数问题:求1/n的第一个循环节)

好喜欢这题,第一次做小数问题,一开始真心没思路,然后参考了网上的一些资料。 知识点***********************************无限不循环小数即无理数,不能写作两整数之比*****************************(一开始没想到,小学没学好) 此题1/n肯定是一个有限循环小数,了解这些后就能做此题了。 按照除法的机制,用一个函数表示出来就可以了,代码如下

hdu1043(八数码问题,广搜 + hash(实现状态压缩) )

利用康拓展开将一个排列映射成一个自然数,然后就变成了普通的广搜题。 #include<iostream>#include<algorithm>#include<string>#include<stack>#include<queue>#include<map>#include<stdio.h>#include<stdlib.h>#include<ctype.h>#inclu

如何解决线上平台抽佣高 线下门店客流少的痛点!

目前,许多传统零售店铺正遭遇客源下降的难题。尽管广告推广能带来一定的客流,但其费用昂贵。鉴于此,众多零售商纷纷选择加入像美团、饿了么和抖音这样的大型在线平台,但这些平台的高佣金率导致了利润的大幅缩水。在这样的市场环境下,商家之间的合作网络逐渐成为一种有效的解决方案,通过资源和客户基础的共享,实现共同的利益增长。 以最近在上海兴起的一个跨行业合作平台为例,该平台融合了环保消费积分系统,在短

购买磨轮平衡机时应该注意什么问题和技巧

在购买磨轮平衡机时,您应该注意以下几个关键点: 平衡精度 平衡精度是衡量平衡机性能的核心指标,直接影响到不平衡量的检测与校准的准确性,从而决定磨轮的振动和噪声水平。高精度的平衡机能显著减少振动和噪声,提高磨削加工的精度。 转速范围 宽广的转速范围意味着平衡机能够处理更多种类的磨轮,适应不同的工作条件和规格要求。 振动监测能力 振动监测能力是评估平衡机性能的重要因素。通过传感器实时监

缓存雪崩问题

缓存雪崩是缓存中大量key失效后当高并发到来时导致大量请求到数据库,瞬间耗尽数据库资源,导致数据库无法使用。 解决方案: 1、使用锁进行控制 2、对同一类型信息的key设置不同的过期时间 3、缓存预热 1. 什么是缓存雪崩 缓存雪崩是指在短时间内,大量缓存数据同时失效,导致所有请求直接涌向数据库,瞬间增加数据库的负载压力,可能导致数据库性能下降甚至崩溃。这种情况往往发生在缓存中大量 k

6.1.数据结构-c/c++堆详解下篇(堆排序,TopK问题)

上篇:6.1.数据结构-c/c++模拟实现堆上篇(向下,上调整算法,建堆,增删数据)-CSDN博客 本章重点 1.使用堆来完成堆排序 2.使用堆解决TopK问题 目录 一.堆排序 1.1 思路 1.2 代码 1.3 简单测试 二.TopK问题 2.1 思路(求最小): 2.2 C语言代码(手写堆) 2.3 C++代码(使用优先级队列 priority_queue)

pip-tools:打造可重复、可控的 Python 开发环境,解决依赖关系,让代码更稳定

在 Python 开发中,管理依赖关系是一项繁琐且容易出错的任务。手动更新依赖版本、处理冲突、确保一致性等等,都可能让开发者感到头疼。而 pip-tools 为开发者提供了一套稳定可靠的解决方案。 什么是 pip-tools? pip-tools 是一组命令行工具,旨在简化 Python 依赖关系的管理,确保项目环境的稳定性和可重复性。它主要包含两个核心工具:pip-compile 和 pip

【VUE】跨域问题的概念,以及解决方法。

目录 1.跨域概念 2.解决方法 2.1 配置网络请求代理 2.2 使用@CrossOrigin 注解 2.3 通过配置文件实现跨域 2.4 添加 CorsWebFilter 来解决跨域问题 1.跨域概念 跨域问题是由于浏览器实施了同源策略,该策略要求请求的域名、协议和端口必须与提供资源的服务相同。如果不相同,则需要服务器显式地允许这种跨域请求。一般在springbo

题目1254:N皇后问题

题目1254:N皇后问题 时间限制:1 秒 内存限制:128 兆 特殊判题:否 题目描述: N皇后问题,即在N*N的方格棋盘内放置了N个皇后,使得它们不相互攻击(即任意2个皇后不允许处在同一排,同一列,也不允许处在同一斜线上。因为皇后可以直走,横走和斜走如下图)。 你的任务是,对于给定的N,求出有多少种合法的放置方法。输出N皇后问题所有不同的摆放情况个数。 输入

vscode中文乱码问题,注释,终端,调试乱码一劳永逸版

忘记咋回事突然出现了乱码问题,很多方法都试了,注释乱码解决了,终端又乱码,调试窗口也乱码,最后经过本人不懈努力,终于全部解决了,现在分享给大家我的方法。 乱码的原因是各个地方用的编码格式不统一,所以把他们设成统一的utf8. 1.电脑的编码格式 开始-设置-时间和语言-语言和区域 管理语言设置-更改系统区域设置-勾选Bata版:使用utf8-确定-然后按指示重启 2.vscode