LoadBalancer负载均衡服务调用

2024-03-12 23:28

本文主要是介绍LoadBalancer负载均衡服务调用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

LoadBalancer负载均衡服务调用

1、Ribbon目前也进入维护

​ Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端 负载均衡的工具。

​ 简单的说,Ribbon是Netflix发布的开源项目,主要功能是**提供客户端的软件负载均衡算法和服务调用。**Ribbon客户端组件提供一系列完善的配置项如连接超时,重试等。简单的说,就是在配置文件中列出Load Balancer(简称LB)后面所有的机器,Ribbon会自动的帮助你基于某种规则(如简单轮询,随机连接等)去连接这些机器。我们很容易使用Ribbon实现自定义的负载均衡算法。

​ 官网:https://github.com/Netflix/ribbon

​ Ribbon未来替换方案就是spring-cloud-loadbalancer

image-20240311124258323

2、spring-cloud-loadbalancer概述

官网地址:Client-Side Load-Balancing with Spring Cloud LoadBalancer Dynamically select correct instance for the request

image-20240311124902120

2.1、LB(Load Balancer)负载均衡是什么?

​ 简单的说就是将用户的请求平摊的分配到多个服务上,从而达到系统的HA(高可用),常见的负载均衡有软件Nginx,LVS,硬件 F5等。

image-20240311131359996

spring-cloud-starter-loadbalancer组件是什么?

​ Spring Cloud LoadBalancer是由SpringCloud官方提供的一个开源的、简单易用的客户端负载均衡器,它包含在SpringCloud-commons中用它来替换了以前的Ribbon组件。相比较于Ribbon,SpringCloud LoadBalancer不仅能够支持RestTemplate,还支持WebClient(WeClient是Spring Web Flux中提供的功能,可以实现响应式异步请求)

客户端负载和服务器端负载有什么区别?

​ loadbalancer本地负载均衡客户端 VS Nginx服务端负载均衡区别

  • Nginx是服务器端的负载均衡,客户端发过来的所有请求都会交给nginx,然后由nginx实现请求转发,即为负载均衡是由服务端实现的;
  • loadbalancer是本地负载均衡,在调用微服务接口时,会在注册中心上获取注册信息的服务列表,然后缓存到JVM本地,从而实现本地RPC远程服务调用技术;

3、负载均衡演示案例

3.1、8002搭建

​ 我们把8001的所有内容全部复制一下放新模块中8002,我们只需要修改application.yml中的端口改成8002就好了。

​ 目录结构

image-20240311142658846

​ 然后启动两个服务,应该都不会报错的

image-20240311142740600

​ 然后我们再启动Consul,我的Consul已经做了持久化处理,开机自启,看到Consul两个服务注册进来就可以了。

image-20240311201324491

​ 由于Consul设置了持久化,原来的key/value也都还在。

image-20240311201409955

​ 现在分别访问一下8001和8002

image-20240311201531083

​ 基本的两个服务提供者都有了,下面开始配置一下消费者80,实现负载均衡访问服务。

3.2、消费者80

​ 订单80模块修改POM并注册进consul,新增LoadBalancer组件

<!--loadbalancer-->
<dependency><groupId>org.springframework.cloud</groupId><artifactId>spring-cloud-starter-loadbalancer</artifactId>
</dependency>

​ RestTemplateConfig中的方法RestTemplate上打上@LoadBalanced注解支持负载均衡。

@Configuration
public class RestTemplateConfig {@Bean@LoadBalancedpublic RestTemplate restTemplate(){return new RestTemplate();}
}

​ 然后在controller上新加请求

//负载均衡测试
@GetMapping("/consumer/pay/getInfo")
public String getInfo(){return restTemplate.getForObject(PAY_MAN_SERVER + "/pay/getInfo",String.class);
}

​ 启动80消费者服务,到consul注册中心看到cloud-consumer-order服务在列表当中。

image-20240311202830589

​ 现在访问的就是localhost/consumer/pay/getInfo,刷新几次就会看到端口号8001和8002交替访问,说明请求分摊到了两个服务提供者身上了。

image-20240311203841507

3.3、负载均衡小结

​ 客户端也就是消费者是怎么实现负载均衡的?其实比较简单粗暴,使用DiscoveryClient动态获取从consul注册中心的所有服务列表,然后指定我想要的服务名称列表进行判断,如果列表不为空且包含元素,则返回第一个服务实例的 URL,使用 list.get(0).getUri() 获取。

image-20240311205615762

@Autowired
private DiscoveryClient discoveryClient;public String serviceUrl() {List<ServiceInstance> list = discoveryClient.getInstances("STORES");if (list != null && list.size() > 0 ) {return list.get(0).getUri();}return null;
}

​ 我们也可以写一个测试来体验一下这个选择的过程。

@Resource
private DiscoveryClient discoveryClient;
@GetMapping("/consumer/discovery")
public String discovery(){//获取注册中心的服务列表List<String> services = discoveryClient.getServices();for (String service : services) {System.out.println(service);}System.out.println("----------------------------");List<ServiceInstance> instances = discoveryClient.getInstances("cloud-payment-service");for (ServiceInstance instance : instances) {System.out.println(instance.getServiceId()+"\t"+instance.getHost()+"\t"+instance.getPort()+"\t"+instance.getUri());}return instances.get(0).getServiceId()+"--port:"+instances.get(0).getPort();
}

​ 重启服务测试

image-20240311212110201

3.4、负载均衡轮询算法

​ 负载均衡算法:rest接口第几次请求数 % 服务器集群总数量 = 实际调用服务器位置下标 ,每次服务重启动后rest接口计数从1开始。

List<ServiceInstance> instances = discoveryClient.getInstances("cloud-payment-service");

假如我们这个服务器集群有三个服务

List[0] = instances127.0.0.1:8001
List[1] = instances127.0.0.1:8002
List[2] = instances127.0.0.1:8003

​ 集群内的服务数为3,按照轮询算法原理:

请求数是1时:1%3 = 1 对应下标位置为1,则获得服务器地址就是 127.0.0.1:8002

请求数是2时:2%3 = 2 对应下标位置为2,则获得服务器地址就是 127.0.0.1:8003

请求数是3时:3%3 = 0 对应下标位置为0,则获得服务器地址就是 127.0.0.1:8001

请求数是4时:4%3 = 1 对应下标位置为1,则获得服务器地址就是 127.0.0.1:8002

请求数是5时:5%3 = 2 对应下标位置为2,则获得服务器地址就是 127.0.0.1:8003

依次类推…

4、负载均衡算法原理

4.1、默认算法是什么?有几种?

​ 默认的算法就是上面介绍的轮询算法,一共就两种算法,一个是轮询一个是随机算法。

image-20240312203712120

源码:

public class CustomLoadBalancerConfiguration {@BeanReactorLoadBalancer<ServiceInstance> randomLoadBalancer(Environment environment,LoadBalancerClientFactory loadBalancerClientFactory) {String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);return new RandomLoadBalancer(loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class),name);}
}

4.2、算法的切换

​ 一般我们使用默认的轮询算法即可,不需要切换成随机,现在演示怎么切换。

​ 负载均衡是从RestTemplate中实现的,所以使用它的时候打上@LoadBalancerClient注解,RestTemplateConfig要对服务cloud-payment-service实现一个新的配置,这个配置使用的是随机算法。

@Configuration
@LoadBalancerClient(//下面的value值大小写一定要和consul里面的名字一样value = "cloud-payment-service",configuration = RestTemplateConfig.class)
public class RestTemplateConfig
{@Bean@LoadBalanced //使用@LoadBalanced注解赋予RestTemplate负载均衡的能力public RestTemplate restTemplate(){return new RestTemplate();}@BeanReactorLoadBalancer<ServiceInstance> randomLoadBalancer(Environment environment,LoadBalancerClientFactory loadBalancerClientFactory) {String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);return new RandomLoadBalancer(loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class), name);}
}

​ 重启一下80消费者服务测试一下,之前轮询是8001和8002交替访问,现在是随机的,多刷几次就能看到变化。

在这里插入图片描述

这篇关于LoadBalancer负载均衡服务调用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/802929

相关文章

Hadoop集群数据均衡之磁盘间数据均衡

生产环境,由于硬盘空间不足,往往需要增加一块硬盘。刚加载的硬盘没有数据时,可以执行磁盘数据均衡命令。(Hadoop3.x新特性) plan后面带的节点的名字必须是已经存在的,并且是需要均衡的节点。 如果节点不存在,会报如下错误: 如果节点只有一个硬盘的话,不会创建均衡计划: (1)生成均衡计划 hdfs diskbalancer -plan hadoop102 (2)执行均衡计划 hd

如何在页面调用utility bar并传递参数至lwc组件

1.在app的utility item中添加lwc组件: 2.调用utility bar api的方式有两种: 方法一,通过lwc调用: import {LightningElement,api ,wire } from 'lwc';import { publish, MessageContext } from 'lightning/messageService';import Ca

【区块链 + 人才服务】可信教育区块链治理系统 | FISCO BCOS应用案例

伴随着区块链技术的不断完善,其在教育信息化中的应用也在持续发展。利用区块链数据共识、不可篡改的特性, 将与教育相关的数据要素在区块链上进行存证确权,在确保数据可信的前提下,促进教育的公平、透明、开放,为教育教学质量提升赋能,实现教育数据的安全共享、高等教育体系的智慧治理。 可信教育区块链治理系统的顶层治理架构由教育部、高校、企业、学生等多方角色共同参与建设、维护,支撑教育资源共享、教学质量评估、

【区块链 + 人才服务】区块链集成开发平台 | FISCO BCOS应用案例

随着区块链技术的快速发展,越来越多的企业开始将其应用于实际业务中。然而,区块链技术的专业性使得其集成开发成为一项挑战。针对此,广东中创智慧科技有限公司基于国产开源联盟链 FISCO BCOS 推出了区块链集成开发平台。该平台基于区块链技术,提供一套全面的区块链开发工具和开发环境,支持开发者快速开发和部署区块链应用。此外,该平台还可以提供一套全面的区块链开发教程和文档,帮助开发者快速上手区块链开发。

【LabVIEW学习篇 - 21】:DLL与API的调用

文章目录 DLL与API调用DLLAPIDLL的调用 DLL与API调用 LabVIEW虽然已经足够强大,但不同的语言在不同领域都有着自己的优势,为了强强联合,LabVIEW提供了强大的外部程序接口能力,包括DLL、CIN(C语言接口)、ActiveX、.NET、MATLAB等等。通过DLL可以使用户很方便地调用C、C++、C#、VB等编程语言写的程序以及windows自带的大

基于SpringBoot的宠物服务系统+uniapp小程序+LW参考示例

系列文章目录 1.基于SSM的洗衣房管理系统+原生微信小程序+LW参考示例 2.基于SpringBoot的宠物摄影网站管理系统+LW参考示例 3.基于SpringBoot+Vue的企业人事管理系统+LW参考示例 4.基于SSM的高校实验室管理系统+LW参考示例 5.基于SpringBoot的二手数码回收系统+原生微信小程序+LW参考示例 6.基于SSM的民宿预订管理系统+LW参考示例 7.基于

一种改进的red5集群方案的应用、基于Red5服务器集群负载均衡调度算法研究

转自: 一种改进的red5集群方案的应用: http://wenku.baidu.com/link?url=jYQ1wNwHVBqJ-5XCYq0PRligp6Y5q6BYXyISUsF56My8DP8dc9CZ4pZvpPz1abxJn8fojMrL0IyfmMHStpvkotqC1RWlRMGnzVL1X4IPOa_  基于Red5服务器集群负载均衡调度算法研究 http://ww

string字符会调用new分配堆内存吗

gcc的string默认大小是32个字节,字符串小于等于15直接保存在栈上,超过之后才会使用new分配。

京东物流查询|开发者调用API接口实现

快递聚合查询的优势 1、高效整合多种快递信息。2、实时动态更新。3、自动化管理流程。 聚合国内外1500家快递公司的物流信息查询服务,使用API接口查询京东物流的便捷步骤,首先选择专业的数据平台的快递API接口:物流快递查询API接口-单号查询API - 探数数据 以下示例是参考的示例代码: import requestsurl = "http://api.tanshuapi.com/a

Golang支持平滑升级的HTTP服务

前段时间用Golang在做一个HTTP的接口,因编译型语言的特性,修改了代码需要重新编译可执行文件,关闭正在运行的老程序,并启动新程序。对于访问量较大的面向用户的产品,关闭、重启的过程中势必会出现无法访问的情况,从而影响用户体验。 使用Golang的系统包开发HTTP服务,是无法支持平滑升级(优雅重启)的,本文将探讨如何解决该问题。 一、平滑升级(优雅重启)的一般思路 一般情况下,要实现平滑