记录接口请求偶发504 Gateway Time-out问题

2024-05-14 13:04

本文主要是介绍记录接口请求偶发504 Gateway Time-out问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

项目场景:

我们将服务部署到A公司服务器中,使用了共五台服务器,分别是:1.NG服务器 2.日志服务器 3.缓存服务器 4.应用服务器1 5.应用服务器2 。而请求过来首先到达的是他们的物理代理服务器,然后再转发请求到我们的ng服务器,然后再到应用服务器。


问题描述

接口请求经常会网络繁忙,报504 Gateway Time-out,然后返回了个.
在这里插入图片描述


原因分析:

  1. 网络带宽问题:
    检查了下带宽,总带宽700M,峰值也才400M,同网络下其他服务并未出现该情况,所以暂时排除网络带宽问题

  2. ng配置问题:
    那么有没有可能是我们ng配置问题呢,检查了下我们的nginx.conf配置文件,发现配置的worker_connections足足有10240个,和我们云服务上的一样,所以也排除掉我们ng服务的问题

  3. 服务性能问题:
    基本所有接口都会发生这样的问题,同一个接口同样的数据,不同时间请求是偶发的出现网络繁忙,而且我们在云服务器也部署了同样的系统,并没有出现过这样的情况,所以排除服务性能问题

  4. 其他:
    剩下的最大可能就是请求到达的第一个物理代理机的问题了。由于我们系统是B2B2C的,所以请求量比较大,在现场排查之后,发现大量请求停留在SYN_RECV,没有分发到我们的代理服务器去,问题确定,由于请求量大服务器负载高,每次请求过来就需要建立TCP连接,然后请求结束后又需要关闭连接,开销大。


解决方案:

调整了这个物理代理机上的nginx配置的keepalive参数,完成以下几点:

  • 减少连接建立时间:keepalive参数允许Nginx在一定时间内保持与后端服务器的连接处于活动状态,而不是在每个请求之后立即关闭连接。这可以减少连接建立时间,因为Nginx不需要在每个请求之前重新建立TCP连接。
  • 减少后端服务器负载:通过保持与后端服务器的连接处于活动状态,keepalive参数可以减少后端服务器的连接建立和关闭的开销。这可以降低后端服务器的负载,从而减少SYN_RECV状态的问题。
  • 优化网络带宽利用率:keepalive参数可以减少网络中的TCP握手和挥手消息的数量,从而优化网络带宽的利用率。这可以减少网络拥塞的可能性,从而减少SYN_RECV状态的问题。
  • 提高请求处理效率:通过保持与后端服务器的连接处于活动状态,keepalive参数可以提高请求处理的效率。这是因为Nginx可以在同一连接上处理多个请求,而不需要在每个请求之后重新建立连接。

之后情况大大改善,基本没有再出现过504 Gateway Time-out。

这篇关于记录接口请求偶发504 Gateway Time-out问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/988812

相关文章

Spring Boot 配置文件之类型、加载顺序与最佳实践记录

《SpringBoot配置文件之类型、加载顺序与最佳实践记录》SpringBoot的配置文件是灵活且强大的工具,通过合理的配置管理,可以让应用开发和部署更加高效,无论是简单的属性配置,还是复杂... 目录Spring Boot 配置文件详解一、Spring Boot 配置文件类型1.1 applicatio

go中空接口的具体使用

《go中空接口的具体使用》空接口是一种特殊的接口类型,它不包含任何方法,本文主要介绍了go中空接口的具体使用,具有一定的参考价值,感兴趣的可以了解一下... 目录接口-空接口1. 什么是空接口?2. 如何使用空接口?第一,第二,第三,3. 空接口几个要注意的坑坑1:坑2:坑3:接口-空接口1. 什么是空接

MySQL INSERT语句实现当记录不存在时插入的几种方法

《MySQLINSERT语句实现当记录不存在时插入的几种方法》MySQL的INSERT语句是用于向数据库表中插入新记录的关键命令,下面:本文主要介绍MySQLINSERT语句实现当记录不存在时... 目录使用 INSERT IGNORE使用 ON DUPLICATE KEY UPDATE使用 REPLACE

SpringBoot启动报错的11个高频问题排查与解决终极指南

《SpringBoot启动报错的11个高频问题排查与解决终极指南》这篇文章主要为大家详细介绍了SpringBoot启动报错的11个高频问题的排查与解决,文中的示例代码讲解详细,感兴趣的小伙伴可以了解一... 目录1. 依赖冲突:NoSuchMethodError 的终极解法2. Bean注入失败:No qu

Python 中的异步与同步深度解析(实践记录)

《Python中的异步与同步深度解析(实践记录)》在Python编程世界里,异步和同步的概念是理解程序执行流程和性能优化的关键,这篇文章将带你深入了解它们的差异,以及阻塞和非阻塞的特性,同时通过实际... 目录python中的异步与同步:深度解析与实践异步与同步的定义异步同步阻塞与非阻塞的概念阻塞非阻塞同步

Python Dash框架在数据可视化仪表板中的应用与实践记录

《PythonDash框架在数据可视化仪表板中的应用与实践记录》Python的PlotlyDash库提供了一种简便且强大的方式来构建和展示互动式数据仪表板,本篇文章将深入探讨如何使用Dash设计一... 目录python Dash框架在数据可视化仪表板中的应用与实践1. 什么是Plotly Dash?1.1

MySQL新增字段后Java实体未更新的潜在问题与解决方案

《MySQL新增字段后Java实体未更新的潜在问题与解决方案》在Java+MySQL的开发中,我们通常使用ORM框架来映射数据库表与Java对象,但有时候,数据库表结构变更(如新增字段)后,开发人员可... 目录引言1. 问题背景:数据库与 Java 实体不同步1.1 常见场景1.2 示例代码2. 不同操作

SpringBoot使用OkHttp完成高效网络请求详解

《SpringBoot使用OkHttp完成高效网络请求详解》OkHttp是一个高效的HTTP客户端,支持同步和异步请求,且具备自动处理cookie、缓存和连接池等高级功能,下面我们来看看SpringB... 目录一、OkHttp 简介二、在 Spring Boot 中集成 OkHttp三、封装 OkHttp

如何解决mysql出现Incorrect string value for column ‘表项‘ at row 1错误问题

《如何解决mysql出现Incorrectstringvalueforcolumn‘表项‘atrow1错误问题》:本文主要介绍如何解决mysql出现Incorrectstringv... 目录mysql出现Incorrect string value for column ‘表项‘ at row 1错误报错

如何解决Spring MVC中响应乱码问题

《如何解决SpringMVC中响应乱码问题》:本文主要介绍如何解决SpringMVC中响应乱码问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Spring MVC最新响应中乱码解决方式以前的解决办法这是比较通用的一种方法总结Spring MVC最新响应中乱码解