本文主要是介绍DR模式下部署LVS负载均衡集群的详细原理,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
目录
一、LVS-DR模式
1、基本原理
2、数据包流向分析
二、LVS-DR中的ARP问题
三、LVS-DR 特点
3.1 DR模式的特点
3.2 LVS-DR的优缺点
四、RS设置lo:0而不设置ens33:0的原因
一、LVS-DR模式
1、基本原理
Director Server作为群集的访问入口,但不作为网关使用,后端服务器池中的Real Server与Director Server在同一个物理网络中,发送给客户机的数据包不需要经过Director Server。为了响应对整个群集的访问,DIR(前端负载均衡节点服务器)与RS(后端真实服务器)都需要配置有VIP地址。
每个Real Server上都有两个IP:VIP(负载均衡对外提供访问的 IP 地址)和RIP(负载均衡后端的真实服务器 IP 地址),但是VIP是隐藏的,就是不能提供解析等功能,只是用来做请求回复的源IP的,Director上只需要一个网卡,然后利用别名来配置两个IP:VIP和DIP(负载均衡与后端服务器通信的 IP 地址),在 DIR 接收到客户端的请求后,DIR根据负载算法选择一台 RS 的网卡mac作为客户端请求包中的目标mac,通过 arp 转交给后端RS 处理,后端再通过自己的路由网关回复给客户端。
2、数据包流向分析
- 用户发送请求到Director Server,请求的数据报文(源IP是CIP,目标IP是VIP)到达内核空间。
- 由于DS和RS在同一个网络中,所以是通过二层数据链路层来传输。
- 内核空间判断数据包的目标IP是本机IP,此时IPVS比对数据包请求的服务是否为集群服务,若是,重新封装数据包,修改源MAC地址为DIP的MAC地址,目标MAC地址为RIP的MAC地址,源IP地址与目标IP地址没有改变,然后将数据包发送给Real Server.
- RS发现请求报文的MAC地址是自己的MAC地址,就接收此报文,重新封装报文(源IP地址为VIP,目标IP为CIP),将响应报文通过lo接口传送给ens33网卡然后向外发出。
- RS直接将响应报文传送到客户端。
以客户端与服务端在同一网段为例
CIP:192.168.80.100 MAC地址:00-50-56-C0-00-08
VIP:192.168.80.188
DIR: 192.168.80.9 MAC地址:00-50-56-C0-00-01
RS :192.168.80.10nfs)、192.168.80.11和192.168.80.12(提供http服务)
整个请求过程示意:
这里假设CIP的mac地址为:00-50-56-C0-00-08 ,DIR的ens33的mac地址为:00-50-56-C0-00-01, RIP1的mac地址为: D0-50-99-18-18-15。CIP在请求之前会发一个arp广播包,即请求“谁是VIP”,由于所有的DIR和RIP都在一个物理网络中,而DIR和RIP都有VIP地址,为了让请求发送到DIR上,所以必须让RIP不能响应CIP发出的arp请求(这也是为什么RIP上要把VIP配置在lo口以及要仰制arp查询和响应)这时客户端就会将请求包发送给DIR,接下来就是DIR的事情了:
①客户端client向目标VIP发出请求,DIR调度服务器接收。此时ip头部及数据帧信息如下:
源mac | 目标mac | 源IP | 目标IP |
00-50-56-C0-00-08 | 00-50-56-C0-00-01 | 192.168.80.100 | 192.168.80.188 |
② DIR根据负载均衡算法选择一台active的RS(RIP1),将此RIP1所在网卡的mac地址作为目标mac地址,发送到局域网里。此时IP包头及数据帧头信息如下:
源mac | 目标mac | 源IP | 目标IP |
00-50-56-C0-00-01 | D0-50-99-18-18-15 | 192.168.80.100 | 192.168.80.188 |
③RIP1(192.168.80.11)在局域网中收到这个帧,拆开后发现目标IP(VIP)与本地匹配,于是处理这个报文。随后重新封装报文,发送到局域网。此时IP包头及数据帧头信息如下:
源mac | 目标mac | 源IP | 目标IP |
D0-50-99-18-18-15 | 00-50-56-C0-00-08 | 192.168.80.188 | 192.168.80.100 |
如果client与RS同一网段,那么client(192.168.80.100)将收到这个回复报文。如果跨了网段,那么报文通过gateway/路由器经由Internet返回给用户。在实际情况下,可能只有一个公网,其他都是内网,这时VIP绑定地址应该是公网那个ip,或者利用路由器静态NAT映射将公网与内网vip绑定也行
二、LVS-DR中的ARP问题
问题一:
在局域网中具有相同的IP地址,势必会造成各服务器ARP通信的紊乱。当ARP广播发送到LVS-DIR集群时,因为负载均衡器和节点服务器都是连接到相同的网络上,它们都会接收到ARP广播。只有前端的负载均衡器进行响应,其他节点服务器不应该响应ARP广播
解决方法
IP 地址冲突的
路由器发送ARP请求(广播)
ARP---->广播去找ip地址解析成mac地址
默认使用调度服务器上的外网地址(vip地址)响应,
在真实服务器上修改内核参数
使真实服务器只对自己服务器上的真实IP地址响应ARP解析
问题二:
对节点服务器进行处理,使其不响应针对VIP的ARP请求
解决方法
使用虚接口lo:0承载VIP地址
设置内核参数arp ignore=1:系统只响应目的IP为本地IP的ARP请求
在真实服务器上修改内核参数
只对所有服务器真实网卡上的地址进行反馈,解析
三、LVS-DR 特点
3.1 DR模式的特点
① Director Server 和Real Server 必须在同一-个物理网络中。
② Real Server可以使用私有地址,也可以使用公网地址。如果使用公网地址,可以通过互联网对RIP进行直接访问。
③ Director Server作为群集的访问入口,但不作为网关使用。
④ 所有的请求报文经由Director Server, 但回复响应报文不能经过Director Server。
⑤ Real Server 的网关不允许指向Director Server IP,即 Real Server 发送的数据包不允许经过Director Server。
⑥ Real Server 上的 lo 接口配置 VIP的IP地址。
LVS-DR模式需要注意的是:
- 保证前端路由将目标地址为VIP报文统统发给Director Server,而不是RS。
- 解决方案是:修改RS上内核参数(arp_ignore和arp_announce)将RS上的VIP配置在lo接口的别名上,并限制其不能响应对VIP地址解析请求。
- arp_ignore=1表示系统只响应目的IP为本地IP的ARP请求。
- arp_announce=2表示系统不使用IP包的源地址来设置ARP请求的源地址,而选择发送接口的IP地址。
3.2 LVS-DR的优缺点
优点:
负载均衡器只负责将请求包分发给物理服务器,而物理服务器将应答包直接发给用户。所以,负载均衡器能处理很巨大的请求量,这种方式,一台负载均衡能为 超过100台的物理服务器服务,负载均衡器不再是系统的瓶颈。使用VS-DR方式,如果你的负载均衡器拥有100M的全双工网卡的话,就能使得整个 Virtual Server能达到1G的吞吐量。甚至更高;
缺点:
这种方式需要所有的DIR和RIP都在同一广播域;不支持异地容灾。
四、RS设置lo:0而不设置ens33:0的原因
因为“负载调度机”转发时并不会改写数据包的目的IP,所以“节点服务器”收到的数据包的目的IP仍是“负载调度器”的虚拟服务IP。为了保证“节点服务器”能够正确处理该数据包,而不是丢弃,必须在“节点服务器”的环回网卡上绑定“负载调度器”的虚拟服务IP。这样“节点服务器”会认为这个虚拟服务IP是自己的IP,自己是能够处理这个数据包的。否则“节点服务器”会直接丢弃该数据包!
“节点服务器”上的业务进程必须监听在环回网卡的虚拟服务IP上,且端口必须和“负载调度机”上的虚拟服务端口一致。因为“负载调度机”不会改写数据包的目的端口,所以“节点服务器”服务的监听端口必须和虚拟服务端口一致,否则“节点服务器”会直接拒绝该数据包。
“节点服务器”处理完请求后,响应直接回给客户端,不再经过“负载调度机”。因为“节点服务器”收到的请求数据包的源IP是客户端的IP,所以理所当然“节点服务器”的响应会直接回给客户端,而不会再经过“负载调度机”。这时候要求“节点服务器”和客户端之间的网络是可达的。
“负载调度机”和“节点服务器”须位于同一个子网。因为“负载调度机”在转发过程中需要改写数据包的MAC为“节点服务器”的MAC地址,所以要能够查询到“节点服务器”的MAC。而要获取到“节点服务器”的MAC,则需要保证二者位于一个子网,否则“负载调度机”只能获取到“节点服务器”网关的MAC地址
这篇关于DR模式下部署LVS负载均衡集群的详细原理的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!