深入理解nginx http响应限速功能

2024-05-04 14:12

本文主要是介绍深入理解nginx http响应限速功能,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录

  • 1. 引言
  • 2. 配置参数
    • 2.1 limit_rate 配置指令
    • 2.2 limit_rate_after 配置指令
    • 2.3 其他限速配置
  • 3. 源码分析

1. 引言

  在现代互联网应用中,服务器的性能和响应速度是至关重要的。为了保证服务器的稳定性和可靠性,限制客户端对服务器的访问速度是一项重要的任务。而nginx 是一款高性能的 Web 服务器和反向代理服务器,提供了丰富的功能来管理和控制客户端请求。其中,HTTP 响应限速功能就是是一种有效的方式,可以限制服务器端对客户端的响应速度,以避免服务器在运行过程中因为部分客户端占用过多的资源而导致网络和服务器负载过高,而引起服务的不稳定的问题。
  本文首先介绍了如何进行nginx配置来启用限速功能,然后通过深入源码来详细分析nginx http响应限速的实现原理,让大家对nginx的限速的实现原理有一个完整的认识。

2. 配置参数

  和响应限速有关的主要配置参数一共有两个,分别是limite_rate和limit_rate_after。

2.1 limit_rate 配置指令


语  法:	   limit_rate rate;
默认值:     	limit_rate 0;
上下文:	   http, server, location, if in location

  本条配置指令用来限制响应传输速率,单位为每秒字节数,如果设置为0表示禁用限速功能。这个限制是对每个请求来说的(而不是对每个客户端来限制的),也就是说如果同一个客户端同时开启了两个链接,那么总的最大响应速率降是这个限制速率的两倍。

  配置的参数值可以支持变量(从1.17.0版本开始)。这可能在限制的速率值依赖于某个条件的常见下面显得非常有用,譬如:


map $slow $rate {1     4k;2     8k;
}limit_rate $rate;

  上例利用map模块,将$slow变量的值映射为$rate变量的值,譬如$slow变量为1,那么映射出$rate为4k。这样子,limit_rate就可以根据$slow的值来设置最终要限制的响应速率了。
  这样子,结合map模块的功能,我们完全可以让限速功能变得得更加灵活,譬如根据http header的某个值来映射速率,根据请求的url或者域名来限制速率等等,这里就不在赘述了。

2.2 limit_rate_after 配置指令

语  法:	    limit_rate_after size;
默认值:	limit_rate_after 0;
上下文:	    http, server, location, if in location
备  注:本条配置指令从0.8.0版本开始生效。

  本条配置指令用来设置在给客户端发送的响应的字节数超过指定的值以后才开始限速。和limit_rate配置指令一样,从1.17.0版本开始,可以支持变量方式配置。
  这样指令在流媒体播放的场景下面比较有用,为了支持播放器能够尽量缩短播放前的加载时间,我们就需要在刚开始的时候尽可能快速地将视频文件的头部发送给客户端;而等到播放器满足播放条件开始播放的时候,我们又不太希望播放器加载得太快从而浪费服务器的资源和网络资源,所以需要限制客户端的下载速度到某一个合理的值,只要保证播放器能够流畅播放即可。
  而limit_rate_after的配置指令正好满足的这个场景的需求。

2.3 其他限速配置

  nginx还可以支持通过设置$limit_rate变量参数来对响应速度进行限制,这样就可以在nginx的运行过程中,由脚本或者插件动态设置响应速率,这样子限速逻辑更加灵活了。不过,从1.17.0版本开始,nginx官方不推荐使用这个方法。

  nginx还支持上游服务器通过X-Accel-Limit-Rateheader头来告诉nginx对本次响应进行限速多少的功能。这里不再赘述。

3. 源码分析

  nginx http的限速功能是通过ngx_http_write_filter函数来实现的。ngx_http_write_filter函数是 nginx 在处理 HTTP 请求时的一个重要函数,它的主要作用是将响应数据写入到客户端的网络连接。具体来说,ngx_http_write_filter 函数执行以下关键任务:

  • 确定发送响应数据的方式:根据客户端连接的类型(例如普通连接、SSL 连接等),ngx_http_write_filter 函数确定使用哪种方式将响应数据发送给客户端。这包括直接发送数据、缓存数据再发送或者将数据写入到发送缓冲区等。

  • 处理发送缓冲区:ngx_http_write_filter 函数会将响应数据写入到发送缓冲区。发送缓冲区是一个用于临时存储将要发送给客户端的数据的内存区域。nginx 使用发送缓冲区来提高发送效率,避免每次发送数据都需要进行系统调用。

  • 调用操作系统的网络发送函数:当发送缓冲区中的数据达到一定大小或者达到一定的时间间隔时,ngx_http_write_filter 函数会调用操作系统提供的网络发送函数,将数据从发送缓冲区发送到客户端的网络连接中。

  • 处理发送过程中的错误:在发送响应数据的过程中,可能会发生一些错误,例如网络连接中断、客户端关闭连接等。ngx_http_write_filter 函数会检测并处理这些错误情况,确保响应数据能够正确地发送给客户端。

   下图给出了ngx_http_writer_filter实现的大致流程图:

在这里插入图片描述

  限速原理的重点逻辑就是下面两个公式:

limit = (off_t) r->limit_rate * (ngx_time() - r->start_sec + 1)- (c->sent - r->limit_rate_after);delay = (ngx_msec_t) (- limit * 1000 / r->limit_rate + 1);

  其中limit就是到目前为止按照设置的限速速率计算本次最多可以发送多少字节
  如果limit<=0,表示本次已经没有发送的额度了,需要进行延时发送。在这个时候就需要计算延时发送的延时时长,用到的就是delay变量了,该变量很好理解,就是到目前已经超额发送的字节数/允许发送的速率,得到延时的毫秒数,然后调用ngx_add_timer设置定时器进行延时处理。

  对照以上流程图和相关解释,ngx_http_write_filter的主要实现逻辑包括限速逻辑,我们有理由相信不难理解把握了,大家有兴趣可以自行阅读源码。

这篇关于深入理解nginx http响应限速功能的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/959388

相关文章

SpringKafka消息发布之KafkaTemplate与事务支持功能

《SpringKafka消息发布之KafkaTemplate与事务支持功能》通过本文介绍的基本用法、序列化选项、事务支持、错误处理和性能优化技术,开发者可以构建高效可靠的Kafka消息发布系统,事务支... 目录引言一、KafkaTemplate基础二、消息序列化三、事务支持机制四、错误处理与重试五、性能优

SpringIntegration消息路由之Router的条件路由与过滤功能

《SpringIntegration消息路由之Router的条件路由与过滤功能》本文详细介绍了Router的基础概念、条件路由实现、基于消息头的路由、动态路由与路由表、消息过滤与选择性路由以及错误处理... 目录引言一、Router基础概念二、条件路由实现三、基于消息头的路由四、动态路由与路由表五、消息过滤

Spring Boot 3.4.3 基于 Spring WebFlux 实现 SSE 功能(代码示例)

《SpringBoot3.4.3基于SpringWebFlux实现SSE功能(代码示例)》SpringBoot3.4.3结合SpringWebFlux实现SSE功能,为实时数据推送提供... 目录1. SSE 简介1.1 什么是 SSE?1.2 SSE 的优点1.3 适用场景2. Spring WebFlu

基于SpringBoot实现文件秒传功能

《基于SpringBoot实现文件秒传功能》在开发Web应用时,文件上传是一个常见需求,然而,当用户需要上传大文件或相同文件多次时,会造成带宽浪费和服务器存储冗余,此时可以使用文件秒传技术通过识别重复... 目录前言文件秒传原理代码实现1. 创建项目基础结构2. 创建上传存储代码3. 创建Result类4.

Python+PyQt5实现多屏幕协同播放功能

《Python+PyQt5实现多屏幕协同播放功能》在现代会议展示、数字广告、展览展示等场景中,多屏幕协同播放已成为刚需,下面我们就来看看如何利用Python和PyQt5开发一套功能强大的跨屏播控系统吧... 目录一、项目概述:突破传统播放限制二、核心技术解析2.1 多屏管理机制2.2 播放引擎设计2.3 专

一文详解SpringBoot响应压缩功能的配置与优化

《一文详解SpringBoot响应压缩功能的配置与优化》SpringBoot的响应压缩功能基于智能协商机制,需同时满足很多条件,本文主要为大家详细介绍了SpringBoot响应压缩功能的配置与优化,需... 目录一、核心工作机制1.1 自动协商触发条件1.2 压缩处理流程二、配置方案详解2.1 基础YAML

如何自定义Nginx JSON日志格式配置

《如何自定义NginxJSON日志格式配置》Nginx作为最流行的Web服务器之一,其灵活的日志配置能力允许我们根据需求定制日志格式,本文将详细介绍如何配置Nginx以JSON格式记录访问日志,这种... 目录前言为什么选择jsON格式日志?配置步骤详解1. 安装Nginx服务2. 自定义JSON日志格式各

如何解决Spring MVC中响应乱码问题

《如何解决SpringMVC中响应乱码问题》:本文主要介绍如何解决SpringMVC中响应乱码问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Spring MVC最新响应中乱码解决方式以前的解决办法这是比较通用的一种方法总结Spring MVC最新响应中乱码解

Nginx指令add_header和proxy_set_header的区别及说明

《Nginx指令add_header和proxy_set_header的区别及说明》:本文主要介绍Nginx指令add_header和proxy_set_header的区别及说明,具有很好的参考价... 目录Nginx指令add_header和proxy_set_header区别如何理解反向代理?proxy

使用PyTorch实现手写数字识别功能

《使用PyTorch实现手写数字识别功能》在人工智能的世界里,计算机视觉是最具魅力的领域之一,通过PyTorch这一强大的深度学习框架,我们将在经典的MNIST数据集上,见证一个神经网络从零开始学会识... 目录当计算机学会“看”数字搭建开发环境MNIST数据集解析1. 认识手写数字数据库2. 数据预处理的