深入理解nginx负载均衡round-robin算法

2024-03-07 12:04

本文主要是介绍深入理解nginx负载均衡round-robin算法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录

  • 1. 概述
  • 2. 如何启用round-robin算法
  • 3. 初始化round-robin算法
    • 3.1 设置算法上下文环境初始化回调函数
    • 3.2 加载服务器列表
  • 4. 初始化负载均衡请求上下文
  • 5. 获取peer
  • 6. 释放peer

1. 概述

   nginx为我们提供了强大的HTTP代理功能,而负载均衡算法是实现后端多Real Server代理的一个重要环节,nginx内部为我们集成了一些负载均衡算法,包括round-robin、ip-hash、hash、least_con、random等算法,另外第三方模块甚至提供了一致性哈希等算法。其中最基础的算法要数round-robin了,它也是nginx默认采用的负载均衡算法。本文透过nginx的源码来深入理解一下其实现机制,并对nginx在启动代理逻辑的时候如何进行Real server的选择过程有一个深入的理解。

   在开始之前,先来了解一下什么是round-robin算法,round-robin算法中文名叫轮询调度算法,就是以轮询的方式依次将请求调度不同的服务器,即每次调度执行i = (i + 1) mod n,并选出第i台服务器。算法的优点是其简洁性,它无需记录当前所有连接的状态,所以它是一种无状态调度。轮询调度算法假设所有服务器的处理性能都相同,不关心每台服务器的当前连接数和响应速度。当每台服务器的能力有差异的情况下,轮询调度算法容易导致实际服务器间的负载不平衡。

  为了克服round-robin算法的缺点,所以又在此基础上,衍生出了weighted round-robin算法,即加权轮询调度算法,它可以为不同的Real Server设置不同的权重,权重高的Real Server会分配到更多的负载。而nginx实现的round-robin算法实际上是weighted round-robin算法。

  以下就从源码层面来对nginx的round-robin算法进行分析。

2. 如何启用round-robin算法

  因为round-robin是nginx的默认负载均衡算法,因此如果在nginx配置文件的upstream块中如果没有设置任何其他的负载均衡算法,那么就自然启用round-robin算法了。

  因为nginx实际实现的是weighted round-robin算法,因此,可以对每个服务器设置其负载权重,如下:

upstream {server 192.168.0.1 weight=1;server 192.168.0.2 weight=2;server 192.168.0.3 weight=4;
......
};

  在upstream的初始化代码ngx_http_upstream_init_main_conf函数(这个函数是在配置读取完毕,并且在配置merge之前)中执行的,代码如下:

static char *
ngx_http_upstream_init_main_conf(ngx_conf_t *cf, void *conf)
{ngx_http_upstream_main_conf_t  *umcf = conf;ngx_uint_t                      i;ngx_array_t                     headers_in;ngx_hash_key_t                 *hk;ngx_hash_init_t                 hash;ngx_http_upstream_init_pt       init;ngx_http_upstream_header_t     *header;ngx_http_upstream_srv_conf_t  **uscfp;uscfp = umcf->upstreams.elts;for (i = 0; i < umcf->upstreams.nelts; i++) {init = uscfp[i]->peer.init_upstream ? uscfp[i]->peer.init_upstream:ngx_http_upstream_init_round_robin;if (init(cf, uscfp[i]) != NGX_OK) {return NGX_CONF_ERROR;}}
......
}

  可以看到,如果配置解析完毕后,upstream块对应的负载均衡算法没有被设置成任何其他负载均衡算法,那么就设置成默认的round-rpbin算法,下面就是调用ngx_http_upstream_init_round_robin函数进行算法的初始化了。

3. 初始化round-robin算法

3.1 设置算法上下文环境初始化回调函数

  首先,在ngx_http_upstream_init_round_robin函数中,首先执行了下面这个语句:

us->peer.init = ngx_http_upstream_init_round_robin_peer;

   这个ngx_http_upstream_init_round_robin_peer回调函数用来在nginx收到请求后,在进行执行负载均衡算法前,对round-robin算法的上下文环境进行初始化。

3.2 加载服务器列表

  在nginx配置文件解析到upstream的时候,server列表已经被加载到ngx_http_upstream_srv_conf_t的servers数组中了,在ngx_http_upstream_init_round_robin函数中,需要将加载到的每一个server放入ngx_http_upstream_rr_peer_t中,并进行一些初始化工作。nginx将配置的server分为两组,一个是主server,一个是backup server,其中默认使用的是主server列表中的服务器,只有到主server中的服务器都不可用了才会考虑使用backup server。 nginx将主server和backup server分两次来进行加载,首先加载主server。

  第一步险要计算server的总全重w、总的地址数n和可用地址数t,源码如下:

   for (i = 0; i < us->servers->nelts; i++) {/* 这里仅加载主server,所以backup server直接跳过 */if (server[i].backup) {    continue;}n += server[i].naddrs;w += server[i].naddrs * server[i].weight;if (!server[i].down) {t += server[i].naddrs;}}

  第二步是创建ngx_http_upstream_rr_peer_t结构体并进行初始化

  ngx_http_upstream_rr_peer_t结构体保存了每个peer的信息,和相关描述信息,如总的权重、总的地址数、域名等。源码如下:

	peers = ngx_pcalloc(cf->pool, sizeof(ngx_http_upstream_rr_peers_t));if (peers == NULL) {return NGX_ERROR;}......peer = ngx_pcalloc(cf->pool, sizeof(ngx_http_upstream_rr_peer_t) * n);if (peer == NULL) {return NGX_ERROR;}peers->single = (n == 1);       /* single=1表示仅有一个rs地址 */peers->number = n;peers->weighted = (w != n);peers->total_weight = w

这篇关于深入理解nginx负载均衡round-robin算法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/783452

相关文章

Java并发编程必备之Synchronized关键字深入解析

《Java并发编程必备之Synchronized关键字深入解析》本文我们深入探索了Java中的Synchronized关键字,包括其互斥性和可重入性的特性,文章详细介绍了Synchronized的三种... 目录一、前言二、Synchronized关键字2.1 Synchronized的特性1. 互斥2.

SpringBoot实现MD5加盐算法的示例代码

《SpringBoot实现MD5加盐算法的示例代码》加盐算法是一种用于增强密码安全性的技术,本文主要介绍了SpringBoot实现MD5加盐算法的示例代码,文中通过示例代码介绍的非常详细,对大家的学习... 目录一、什么是加盐算法二、如何实现加盐算法2.1 加盐算法代码实现2.2 注册页面中进行密码加盐2.

如何自定义Nginx JSON日志格式配置

《如何自定义NginxJSON日志格式配置》Nginx作为最流行的Web服务器之一,其灵活的日志配置能力允许我们根据需求定制日志格式,本文将详细介绍如何配置Nginx以JSON格式记录访问日志,这种... 目录前言为什么选择jsON格式日志?配置步骤详解1. 安装Nginx服务2. 自定义JSON日志格式各

Java时间轮调度算法的代码实现

《Java时间轮调度算法的代码实现》时间轮是一种高效的定时调度算法,主要用于管理延时任务或周期性任务,它通过一个环形数组(时间轮)和指针来实现,将大量定时任务分摊到固定的时间槽中,极大地降低了时间复杂... 目录1、简述2、时间轮的原理3. 时间轮的实现步骤3.1 定义时间槽3.2 定义时间轮3.3 使用时

Nginx指令add_header和proxy_set_header的区别及说明

《Nginx指令add_header和proxy_set_header的区别及说明》:本文主要介绍Nginx指令add_header和proxy_set_header的区别及说明,具有很好的参考价... 目录Nginx指令add_header和proxy_set_header区别如何理解反向代理?proxy

SpringCloud之LoadBalancer负载均衡服务调用过程

《SpringCloud之LoadBalancer负载均衡服务调用过程》:本文主要介绍SpringCloud之LoadBalancer负载均衡服务调用过程,具有很好的参考价值,希望对大家有所帮助,... 目录前言一、LoadBalancer是什么?二、使用步骤1、启动consul2、客户端加入依赖3、以服务

SpringCloud负载均衡spring-cloud-starter-loadbalancer解读

《SpringCloud负载均衡spring-cloud-starter-loadbalancer解读》:本文主要介绍SpringCloud负载均衡spring-cloud-starter-loa... 目录简述主要特点使用负载均衡算法1. 轮询负载均衡策略(Round Robin)2. 随机负载均衡策略(

一文带你深入了解Python中的GeneratorExit异常处理

《一文带你深入了解Python中的GeneratorExit异常处理》GeneratorExit是Python内置的异常,当生成器或协程被强制关闭时,Python解释器会向其发送这个异常,下面我们来看... 目录GeneratorExit:协程世界的死亡通知书什么是GeneratorExit实际中的问题案例

Nginx配置location+rewrite实现隐性域名配置

《Nginx配置location+rewrite实现隐性域名配置》本文主要介绍了Nginx配置location+rewrite实现隐性域名配置,包括基于根目录、条件和反向代理+rewrite配置的隐性... 目录1、配置基于根目录的隐性域名(就是nginx反向代理)2、配置基于条件的隐性域名2.1、基于条件

Ubuntu中Nginx虚拟主机设置的项目实践

《Ubuntu中Nginx虚拟主机设置的项目实践》通过配置虚拟主机,可以在同一台服务器上运行多个独立的网站,本文主要介绍了Ubuntu中Nginx虚拟主机设置的项目实践,具有一定的参考价值,感兴趣的可... 目录简介安装 Nginx创建虚拟主机1. 创建网站目录2. 创建默认索引文件3. 配置 Nginx4