深入理解nginx负载均衡round-robin算法

2024-03-07 12:04

本文主要是介绍深入理解nginx负载均衡round-robin算法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录

  • 1. 概述
  • 2. 如何启用round-robin算法
  • 3. 初始化round-robin算法
    • 3.1 设置算法上下文环境初始化回调函数
    • 3.2 加载服务器列表
  • 4. 初始化负载均衡请求上下文
  • 5. 获取peer
  • 6. 释放peer

1. 概述

   nginx为我们提供了强大的HTTP代理功能,而负载均衡算法是实现后端多Real Server代理的一个重要环节,nginx内部为我们集成了一些负载均衡算法,包括round-robin、ip-hash、hash、least_con、random等算法,另外第三方模块甚至提供了一致性哈希等算法。其中最基础的算法要数round-robin了,它也是nginx默认采用的负载均衡算法。本文透过nginx的源码来深入理解一下其实现机制,并对nginx在启动代理逻辑的时候如何进行Real server的选择过程有一个深入的理解。

   在开始之前,先来了解一下什么是round-robin算法,round-robin算法中文名叫轮询调度算法,就是以轮询的方式依次将请求调度不同的服务器,即每次调度执行i = (i + 1) mod n,并选出第i台服务器。算法的优点是其简洁性,它无需记录当前所有连接的状态,所以它是一种无状态调度。轮询调度算法假设所有服务器的处理性能都相同,不关心每台服务器的当前连接数和响应速度。当每台服务器的能力有差异的情况下,轮询调度算法容易导致实际服务器间的负载不平衡。

  为了克服round-robin算法的缺点,所以又在此基础上,衍生出了weighted round-robin算法,即加权轮询调度算法,它可以为不同的Real Server设置不同的权重,权重高的Real Server会分配到更多的负载。而nginx实现的round-robin算法实际上是weighted round-robin算法。

  以下就从源码层面来对nginx的round-robin算法进行分析。

2. 如何启用round-robin算法

  因为round-robin是nginx的默认负载均衡算法,因此如果在nginx配置文件的upstream块中如果没有设置任何其他的负载均衡算法,那么就自然启用round-robin算法了。

  因为nginx实际实现的是weighted round-robin算法,因此,可以对每个服务器设置其负载权重,如下:

upstream {server 192.168.0.1 weight=1;server 192.168.0.2 weight=2;server 192.168.0.3 weight=4;
......
};

  在upstream的初始化代码ngx_http_upstream_init_main_conf函数(这个函数是在配置读取完毕,并且在配置merge之前)中执行的,代码如下:

static char *
ngx_http_upstream_init_main_conf(ngx_conf_t *cf, void *conf)
{ngx_http_upstream_main_conf_t  *umcf = conf;ngx_uint_t                      i;ngx_array_t                     headers_in;ngx_hash_key_t                 *hk;ngx_hash_init_t                 hash;ngx_http_upstream_init_pt       init;ngx_http_upstream_header_t     *header;ngx_http_upstream_srv_conf_t  **uscfp;uscfp = umcf->upstreams.elts;for (i = 0; i < umcf->upstreams.nelts; i++) {init = uscfp[i]->peer.init_upstream ? uscfp[i]->peer.init_upstream:ngx_http_upstream_init_round_robin;if (init(cf, uscfp[i]) != NGX_OK) {return NGX_CONF_ERROR;}}
......
}

  可以看到,如果配置解析完毕后,upstream块对应的负载均衡算法没有被设置成任何其他负载均衡算法,那么就设置成默认的round-rpbin算法,下面就是调用ngx_http_upstream_init_round_robin函数进行算法的初始化了。

3. 初始化round-robin算法

3.1 设置算法上下文环境初始化回调函数

  首先,在ngx_http_upstream_init_round_robin函数中,首先执行了下面这个语句:

us->peer.init = ngx_http_upstream_init_round_robin_peer;

   这个ngx_http_upstream_init_round_robin_peer回调函数用来在nginx收到请求后,在进行执行负载均衡算法前,对round-robin算法的上下文环境进行初始化。

3.2 加载服务器列表

  在nginx配置文件解析到upstream的时候,server列表已经被加载到ngx_http_upstream_srv_conf_t的servers数组中了,在ngx_http_upstream_init_round_robin函数中,需要将加载到的每一个server放入ngx_http_upstream_rr_peer_t中,并进行一些初始化工作。nginx将配置的server分为两组,一个是主server,一个是backup server,其中默认使用的是主server列表中的服务器,只有到主server中的服务器都不可用了才会考虑使用backup server。 nginx将主server和backup server分两次来进行加载,首先加载主server。

  第一步险要计算server的总全重w、总的地址数n和可用地址数t,源码如下:

   for (i = 0; i < us->servers->nelts; i++) {/* 这里仅加载主server,所以backup server直接跳过 */if (server[i].backup) {    continue;}n += server[i].naddrs;w += server[i].naddrs * server[i].weight;if (!server[i].down) {t += server[i].naddrs;}}

  第二步是创建ngx_http_upstream_rr_peer_t结构体并进行初始化

  ngx_http_upstream_rr_peer_t结构体保存了每个peer的信息,和相关描述信息,如总的权重、总的地址数、域名等。源码如下:

	peers = ngx_pcalloc(cf->pool, sizeof(ngx_http_upstream_rr_peers_t));if (peers == NULL) {return NGX_ERROR;}......peer = ngx_pcalloc(cf->pool, sizeof(ngx_http_upstream_rr_peer_t) * n);if (peer == NULL) {return NGX_ERROR;}peers->single = (n == 1);       /* single=1表示仅有一个rs地址 */peers->number = n;peers->weighted = (w != n);peers->total_weight = w

这篇关于深入理解nginx负载均衡round-robin算法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/783452

相关文章

nginx -t、nginx -s stop 和 nginx -s reload 命令的详细解析(结合应用场景)

《nginx-t、nginx-sstop和nginx-sreload命令的详细解析(结合应用场景)》本文解析Nginx的-t、-sstop、-sreload命令,分别用于配置语法检... 以下是关于 nginx -t、nginx -s stop 和 nginx -s reload 命令的详细解析,结合实际应

深入理解Go语言中二维切片的使用

《深入理解Go语言中二维切片的使用》本文深入讲解了Go语言中二维切片的概念与应用,用于表示矩阵、表格等二维数据结构,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习吧... 目录引言二维切片的基本概念定义创建二维切片二维切片的操作访问元素修改元素遍历二维切片二维切片的动态调整追加行动态

从原理到实战深入理解Java 断言assert

《从原理到实战深入理解Java断言assert》本文深入解析Java断言机制,涵盖语法、工作原理、启用方式及与异常的区别,推荐用于开发阶段的条件检查与状态验证,并强调生产环境应使用参数验证工具类替代... 目录深入理解 Java 断言(assert):从原理到实战引言:为什么需要断言?一、断言基础1.1 语

Java中的雪花算法Snowflake解析与实践技巧

《Java中的雪花算法Snowflake解析与实践技巧》本文解析了雪花算法的原理、Java实现及生产实践,涵盖ID结构、位运算技巧、时钟回拨处理、WorkerId分配等关键点,并探讨了百度UidGen... 目录一、雪花算法核心原理1.1 算法起源1.2 ID结构详解1.3 核心特性二、Java实现解析2.

前端如何通过nginx访问本地端口

《前端如何通过nginx访问本地端口》:本文主要介绍前端如何通过nginx访问本地端口的问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、nginx安装1、下载(1)下载地址(2)系统选择(3)版本选择2、安装部署(1)解压(2)配置文件修改(3)启动(4)

Nginx 重写与重定向配置方法

《Nginx重写与重定向配置方法》Nginx重写与重定向区别:重写修改路径(客户端无感知),重定向跳转新URL(客户端感知),try_files检查文件/目录存在性,return301直接返回永久重... 目录一.try_files指令二.return指令三.rewrite指令区分重写与重定向重写: 请求

Nginx 配置跨域的实现及常见问题解决

《Nginx配置跨域的实现及常见问题解决》本文主要介绍了Nginx配置跨域的实现及常见问题解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来... 目录1. 跨域1.1 同源策略1.2 跨域资源共享(CORS)2. Nginx 配置跨域的场景2.1

nginx启动命令和默认配置文件的使用

《nginx启动命令和默认配置文件的使用》:本文主要介绍nginx启动命令和默认配置文件的使用,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录常见命令nginx.conf配置文件location匹配规则图片服务器总结常见命令# 默认配置文件启动./nginx

一文深入详解Python的secrets模块

《一文深入详解Python的secrets模块》在构建涉及用户身份认证、权限管理、加密通信等系统时,开发者最不能忽视的一个问题就是“安全性”,Python在3.6版本中引入了专门面向安全用途的secr... 目录引言一、背景与动机:为什么需要 secrets 模块?二、secrets 模块的核心功能1. 基

Windows的CMD窗口如何查看并杀死nginx进程

《Windows的CMD窗口如何查看并杀死nginx进程》:本文主要介绍Windows的CMD窗口如何查看并杀死nginx进程问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地... 目录Windows的CMD窗口查看并杀死nginx进程开启nginx查看nginx进程停止nginx服务