深入理解nginx http响应限速功能

2024-05-04 14:12

本文主要是介绍深入理解nginx http响应限速功能,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录

  • 1. 引言
  • 2. 配置参数
    • 2.1 limit_rate 配置指令
    • 2.2 limit_rate_after 配置指令
    • 2.3 其他限速配置
  • 3. 源码分析

1. 引言

  在现代互联网应用中,服务器的性能和响应速度是至关重要的。为了保证服务器的稳定性和可靠性,限制客户端对服务器的访问速度是一项重要的任务。而nginx 是一款高性能的 Web 服务器和反向代理服务器,提供了丰富的功能来管理和控制客户端请求。其中,HTTP 响应限速功能就是是一种有效的方式,可以限制服务器端对客户端的响应速度,以避免服务器在运行过程中因为部分客户端占用过多的资源而导致网络和服务器负载过高,而引起服务的不稳定的问题。
  本文首先介绍了如何进行nginx配置来启用限速功能,然后通过深入源码来详细分析nginx http响应限速的实现原理,让大家对nginx的限速的实现原理有一个完整的认识。

2. 配置参数

  和响应限速有关的主要配置参数一共有两个,分别是limite_rate和limit_rate_after。

2.1 limit_rate 配置指令


语  法:	   limit_rate rate;
默认值:     	limit_rate 0;
上下文:	   http, server, location, if in location

  本条配置指令用来限制响应传输速率,单位为每秒字节数,如果设置为0表示禁用限速功能。这个限制是对每个请求来说的(而不是对每个客户端来限制的),也就是说如果同一个客户端同时开启了两个链接,那么总的最大响应速率降是这个限制速率的两倍。

  配置的参数值可以支持变量(从1.17.0版本开始)。这可能在限制的速率值依赖于某个条件的常见下面显得非常有用,譬如:


map $slow $rate {1     4k;2     8k;
}limit_rate $rate;

  上例利用map模块,将$slow变量的值映射为$rate变量的值,譬如$slow变量为1,那么映射出$rate为4k。这样子,limit_rate就可以根据$slow的值来设置最终要限制的响应速率了。
  这样子,结合map模块的功能,我们完全可以让限速功能变得得更加灵活,譬如根据http header的某个值来映射速率,根据请求的url或者域名来限制速率等等,这里就不在赘述了。

2.2 limit_rate_after 配置指令

语  法:	    limit_rate_after size;
默认值:	limit_rate_after 0;
上下文:	    http, server, location, if in location
备  注:本条配置指令从0.8.0版本开始生效。

  本条配置指令用来设置在给客户端发送的响应的字节数超过指定的值以后才开始限速。和limit_rate配置指令一样,从1.17.0版本开始,可以支持变量方式配置。
  这样指令在流媒体播放的场景下面比较有用,为了支持播放器能够尽量缩短播放前的加载时间,我们就需要在刚开始的时候尽可能快速地将视频文件的头部发送给客户端;而等到播放器满足播放条件开始播放的时候,我们又不太希望播放器加载得太快从而浪费服务器的资源和网络资源,所以需要限制客户端的下载速度到某一个合理的值,只要保证播放器能够流畅播放即可。
  而limit_rate_after的配置指令正好满足的这个场景的需求。

2.3 其他限速配置

  nginx还可以支持通过设置$limit_rate变量参数来对响应速度进行限制,这样就可以在nginx的运行过程中,由脚本或者插件动态设置响应速率,这样子限速逻辑更加灵活了。不过,从1.17.0版本开始,nginx官方不推荐使用这个方法。

  nginx还支持上游服务器通过X-Accel-Limit-Rateheader头来告诉nginx对本次响应进行限速多少的功能。这里不再赘述。

3. 源码分析

  nginx http的限速功能是通过ngx_http_write_filter函数来实现的。ngx_http_write_filter函数是 nginx 在处理 HTTP 请求时的一个重要函数,它的主要作用是将响应数据写入到客户端的网络连接。具体来说,ngx_http_write_filter 函数执行以下关键任务:

  • 确定发送响应数据的方式:根据客户端连接的类型(例如普通连接、SSL 连接等),ngx_http_write_filter 函数确定使用哪种方式将响应数据发送给客户端。这包括直接发送数据、缓存数据再发送或者将数据写入到发送缓冲区等。

  • 处理发送缓冲区:ngx_http_write_filter 函数会将响应数据写入到发送缓冲区。发送缓冲区是一个用于临时存储将要发送给客户端的数据的内存区域。nginx 使用发送缓冲区来提高发送效率,避免每次发送数据都需要进行系统调用。

  • 调用操作系统的网络发送函数:当发送缓冲区中的数据达到一定大小或者达到一定的时间间隔时,ngx_http_write_filter 函数会调用操作系统提供的网络发送函数,将数据从发送缓冲区发送到客户端的网络连接中。

  • 处理发送过程中的错误:在发送响应数据的过程中,可能会发生一些错误,例如网络连接中断、客户端关闭连接等。ngx_http_write_filter 函数会检测并处理这些错误情况,确保响应数据能够正确地发送给客户端。

   下图给出了ngx_http_writer_filter实现的大致流程图:

在这里插入图片描述

  限速原理的重点逻辑就是下面两个公式:

limit = (off_t) r->limit_rate * (ngx_time() - r->start_sec + 1)- (c->sent - r->limit_rate_after);delay = (ngx_msec_t) (- limit * 1000 / r->limit_rate + 1);

  其中limit就是到目前为止按照设置的限速速率计算本次最多可以发送多少字节
  如果limit<=0,表示本次已经没有发送的额度了,需要进行延时发送。在这个时候就需要计算延时发送的延时时长,用到的就是delay变量了,该变量很好理解,就是到目前已经超额发送的字节数/允许发送的速率,得到延时的毫秒数,然后调用ngx_add_timer设置定时器进行延时处理。

  对照以上流程图和相关解释,ngx_http_write_filter的主要实现逻辑包括限速逻辑,我们有理由相信不难理解把握了,大家有兴趣可以自行阅读源码。

这篇关于深入理解nginx http响应限速功能的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/959388

相关文章

Python的time模块一些常用功能(各种与时间相关的函数)

《Python的time模块一些常用功能(各种与时间相关的函数)》Python的time模块提供了各种与时间相关的函数,包括获取当前时间、处理时间间隔、执行时间测量等,:本文主要介绍Python的... 目录1. 获取当前时间2. 时间格式化3. 延时执行4. 时间戳运算5. 计算代码执行时间6. 转换为指

Nginx location匹配模式与规则详解

《Nginxlocation匹配模式与规则详解》:本文主要介绍Nginxlocation匹配模式与规则,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、环境二、匹配模式1. 精准模式2. 前缀模式(不继续匹配正则)3. 前缀模式(继续匹配正则)4. 正则模式(大

Android实现两台手机屏幕共享和远程控制功能

《Android实现两台手机屏幕共享和远程控制功能》在远程协助、在线教学、技术支持等多种场景下,实时获得另一部移动设备的屏幕画面,并对其进行操作,具有极高的应用价值,本项目旨在实现两台Android手... 目录一、项目概述二、相关知识2.1 MediaProjection API2.2 Socket 网络

Redis消息队列实现异步秒杀功能

《Redis消息队列实现异步秒杀功能》在高并发场景下,为了提高秒杀业务的性能,可将部分工作交给Redis处理,并通过异步方式执行,Redis提供了多种数据结构来实现消息队列,总结三种,本文详细介绍Re... 目录1 Redis消息队列1.1 List 结构1.2 Pub/Sub 模式1.3 Stream 结

html5的响应式布局的方法示例详解

《html5的响应式布局的方法示例详解》:本文主要介绍了HTML5中使用媒体查询和Flexbox进行响应式布局的方法,简要介绍了CSSGrid布局的基础知识和如何实现自动换行的网格布局,详细内容请阅读本文,希望能对你有所帮助... 一 使用媒体查询响应式布局        使用的参数@media这是常用的

MySQL索引的优化之LIKE模糊查询功能实现

《MySQL索引的优化之LIKE模糊查询功能实现》:本文主要介绍MySQL索引的优化之LIKE模糊查询功能实现,本文通过示例代码给大家介绍的非常详细,感兴趣的朋友一起看看吧... 目录一、前缀匹配优化二、后缀匹配优化三、中间匹配优化四、覆盖索引优化五、减少查询范围六、避免通配符开头七、使用外部搜索引擎八、分

springboot上传zip包并解压至服务器nginx目录方式

《springboot上传zip包并解压至服务器nginx目录方式》:本文主要介绍springboot上传zip包并解压至服务器nginx目录方式,具有很好的参考价值,希望对大家有所帮助,如有错误... 目录springboot上传zip包并解压至服务器nginx目录1.首先需要引入zip相关jar包2.然

Android实现悬浮按钮功能

《Android实现悬浮按钮功能》在很多场景中,我们希望在应用或系统任意界面上都能看到一个小的“悬浮按钮”(FloatingButton),用来快速启动工具、展示未读信息或快捷操作,所以本文给大家介绍... 目录一、项目概述二、相关技术知识三、实现思路四、整合代码4.1 Java 代码(MainActivi

如何使用Nginx配置将80端口重定向到443端口

《如何使用Nginx配置将80端口重定向到443端口》这篇文章主要为大家详细介绍了如何将Nginx配置为将HTTP(80端口)请求重定向到HTTPS(443端口),文中的示例代码讲解详细,有需要的小伙... 目录1. 创建或编辑Nginx配置文件2. 配置HTTP重定向到HTTPS3. 配置HTTPS服务器

SpringBoot集成Milvus实现数据增删改查功能

《SpringBoot集成Milvus实现数据增删改查功能》milvus支持的语言比较多,支持python,Java,Go,node等开发语言,本文主要介绍如何使用Java语言,采用springboo... 目录1、Milvus基本概念2、添加maven依赖3、配置yml文件4、创建MilvusClient