微服务实践之负载均衡（Spring Cloud Load Balancer）-SpringCloud(2020.0.x)-2

2023-12-12 20:38
文章标签 java 服务 实践 负载 spring cloud springcloud load 均衡 2020.0 balancer

本文主要是介绍微服务实践之负载均衡（Spring Cloud Load Balancer）-SpringCloud(2020.0.x)-2，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

[版权申明] 非商业目的注明出处可自由转载
出自：shusheng007

文章目录

  • 概述
  • 实现原理
  • 如何切换负载均衡算法
  • 总结

概述

众所周知，由于Netflix的微服务组件进入维护期，SpringCloud逐渐移除了这些组件，包括负载均衡组件Ribbon。现在SpringCloud学精了，不是与某一个类库绑定，而是提供了一套抽象，这样就可以在保持接口不变的情况下随意切换实现方案。

在微服务实践之服务注册与发现(Nacos)-SpringCloud(2020.0.x)-1我们使用了系统默认的round-robin算法RoundRobinLoadBalancer.class，那我们如何切换到其他算法呢？

实现原理

如果你急于想知道如何切换负载均衡算法而不是太关心实现原理，那么跳过此部分即可。

我们首先应该大体弄明白SpringCloud Loadbalance的实现原理，然后再看如何切换负载均衡算法就变得很简单了，好比裤裆掏鸟：手拿把攥！ 你有没有想过为什么我们只是给WebClient或者RestTemplate添加一个@LoadBalanced注解就可以使用负载均衡了呢？我们以WebClient来稍微捋一下，如果发现行文中有任何不对的地方请指出，让我们共同进步…。

  1. 处理@LoadBalanced

在spring-cloud-commons模块里的org.springframework.cloud.client.loadbalancer.reactive包下有一个实现了BeanPostProcessor的LoadBalancerWebClientBuilderBeanPostProcessor类，源码如下所示。

public class LoadBalancerWebClientBuilderBeanPostProcessor implements BeanPostProcessor {
...@Overridepublic Object postProcessBeforeInitialization(Object bean, String beanName) throws BeansException {if (bean instanceof WebClient.Builder) {if (context.findAnnotationOnBean(beanName, LoadBalanced.class) == null) {return bean;}((WebClient.Builder) bean).filter(exchangeFilterFunction);}return bean;}
}

众所周知实现了BeanPostProcessor接口的每个类都会被纳入Spring的生命周期，其postProcessBeforeInitialization()方法在bean初始化时执行。可以看到，源码先判断此bean是否是WebClient.Builder且被@LoadBalanced注解，如果是则设置一个filter：DeferringLoadBalancerExchangeFilterFunction, 其内部有一ExchangeFilterFunction类型的代理，我们就是通过从外部将我们的负载均衡逻辑设置给这个代理的。

具体来说是org.springframework.cloud.client.loadbalancer.reactive.ReactorLoadBalancerExchangeFilterFunction 这个类被设置给了WebClient的filter方法。而ReactorLoadBalancerExchangeFilterFunction又是通过其字段ReactiveLoadBalancer.Factory<ServiceInstance> loadBalancerFactory 将外面的配置传递进来的。

至此问题准换为构建一个ReactiveLoadBalancer.Factory<ServiceInstance>实例。

  1. spring-cloud-loadbalancer

上面代码都是位于spring-cloud-commons抽象层中的，接下来的代码就位于我们引入的具体实现spring-cloud-loadbalancer中了。因为引入的是starter，我们首先瞄准LoadBalancerAutoConfiguration自动配置类，里面就有一个提供ReactiveLoadBalancer.Factory<ServiceInstance>Bean的方法。

	@ConditionalOnMissingBean@Beanpublic LoadBalancerClientFactory loadBalancerClientFactory() {LoadBalancerClientFactory clientFactory = new LoadBalancerClientFactory();clientFactory.setConfigurations(this.configurations.getIfAvailable(Collections::emptyList));return clientFactory;}

其中LoadBalancerClientFactory 实现了ReactiveLoadBalancer.Factory<ServiceInstance>接口。其构造函数如下

	public LoadBalancerClientFactory() {super(LoadBalancerClientConfiguration.class, NAMESPACE, PROPERTY_NAME);}

将默认配置设置为LoadBalancerClientConfiguration。

至此，关于默认负载均衡的算法配置已经被锁定到了LoadBalancerClientConfiguration 类。

  1. 默认算法

查看LoadBalancerClientConfiguration 类，发现了设置默认负载均衡算法的代码。

	@Bean@ConditionalOnMissingBeanpublic ReactorLoadBalancer<ServiceInstance> reactorServiceInstanceLoadBalancer(Environment environment,LoadBalancerClientFactory loadBalancerClientFactory) {String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);return new RoundRobinLoadBalancer(loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class), name);}

可以看到，默认使用RoundRobinLoadBalancer。

  1. 自定义

默认配置原理我们已经清楚了，那我们如何自定义呢。这就要看第2步里设置LoadBalancerClientFactory的configuration代码了：

	@ConditionalOnMissingBean@Beanpublic LoadBalancerClientFactory loadBalancerClientFactory() {...clientFactory.setConfigurations(this.configurations.getIfAvailable(Collections::emptyList));return clientFactory;}

至此，问题转换成如何获取configurations了，如下代码所示。

@LoadBalancerClients
public class LoadBalancerAutoConfiguration{private final ObjectProvider<List<LoadBalancerClientSpecification>> configurations;
}

由于LoadBalancerAutoConfiguration 使用了@LoadBalancerClients注解，而它又使用了@Import(LoadBalancerClientConfigurationRegistrar.class)注解来注入bean，所以需要查看LoadBalancerClientConfigurationRegistrar的如下方法

public void registerBeanDefinitions(AnnotationMetadata metadata, BeanDefinitionRegistry registry) {...
}

这个方法主要是通过获取@LoadBalancerClients或者@LoadBalancerClient 里配置的自定义配置来信息来注册bean。

@Configuration(proxyBeanMethods = false)
@Import(LoadBalancerClientConfigurationRegistrar.class)
@Target(ElementType.TYPE)
@Retention(RetentionPolicy.RUNTIME)
@Documented
public @interface LoadBalancerClient {
.../*** A custom <code>@Configuration</code> for the load balancer client. Can contain* override <code>@Bean</code> definition for the pieces that make up the client.** @see LoadBalancerClientConfiguration for the defaults* @return configuration classes for the load balancer client.*/Class<?>[] configuration() default {};}

从那个注释也可以发现，系统默认使用LoadBalancerClientConfiguration配置类，要自定义负载均衡算法的话就要提供自己的配置类了。

  1. ServiceInstanceListSupplier

至此我们其实已经知道负载均衡算法是如何被设置的了，但是还有一个很重要的方面没有讲，那就是ServiceInstanceListSupplier。也就是负载均衡要均衡访问的那些实例怎么来的问题。

spring-cloud-loadbalancer已经为我们写了很多实现类了，对于Reactive版本他们都在LoadBalancerClientConfiguration.ReactiveSupportConfiguration类中。默认情况下我们使用下面这个实现：

@Bean
@ConditionalOnBean(ReactiveDiscoveryClient.class)
@ConditionalOnMissingBean
@ConditionalOnProperty(value = "spring.cloud.loadbalancer.configurations", havingValue = "default",matchIfMissing = true)
public ServiceInstanceListSupplier discoveryClientServiceInstanceListSupplier(ConfigurableApplicationContext context) {return ServiceInstanceListSupplier.builder().withDiscoveryClient().withCaching().build(context);
}

可以看到，不仅使用了从服务发现获取的实例提供者，也使用了缓存，不至于每次都去服务注册中心去取。其还提供了其他的组合，我们可以在application.yaml中通过配置来选择。

spring:cloud:loadbalancer:configurations: zone-preference

例如下面的配置使用zone相关的实例提供者组合。

@Bean
@ConditionalOnBean(ReactiveDiscoveryClient.class)
@ConditionalOnMissingBean
@ConditionalOnProperty(value = "spring.cloud.loadbalancer.configurations", havingValue = "zone-preference")
public ServiceInstanceListSupplier zonePreferenceDiscoveryClientServiceInstanceListSupplier(ConfigurableApplicationContext context) {return ServiceInstanceListSupplier.builder().withDiscoveryClient().withZonePreference().withCaching().build(context);
}

如何切换负载均衡算法

通过上面的原理分析，切换负载均衡算法就变得很简单了。

第一步：写一个自定义的负载均衡配置类

参考LoadBalancerClientConfiguration提供一个ReactorLoadBalancer<ServiceInstance>bean即可，下面是我写的自定义配置类，使用了RandomLoadBalancer来实现随机负载均衡，其中RandomLoadBalancer也是spring-cloud-loadbalancer提供的，如果我们要写自己的LoadBalancer可以参考它。

public class CustomLoadBalancerConfiguration {@Beanpublic ReactorLoadBalancer<ServiceInstance> reactorServiceInstanceLoadBalancer(Environment environment,LoadBalancerClientFactory loadBalancerClientFactory) {String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);return new RandomLoadBalancer(loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class), name);}
}

特别注意此配置类不要加@Configuration

如果要提供自定义的ServiceInstanceListSupplier 就在此类中加入自定义的bean即可,如下所示

    @Beanpublic ServiceInstanceListSupplier myDiscoveryClientServiceInstanceListSupplier(ConfigurableApplicationContext context) {return ServiceInstanceListSupplier.builder().withDiscoveryClient().build(context);}

第二步： 将第一步的配置类设置给我们的负载均衡配置类里

@Configuration
@LoadBalancerClient(value = "order-service",configuration = CustomLoadBalancerConfiguration.class)
public class LoadBalanceConfiguration {@LoadBalanced@Beanpublic WebClient.Builder loadBalancedWebClientBuilder(){return WebClient.builder();}
}

通过@LoadBalancerClient或者@LoadBalancerClients注解将CustomLoadBalancerConfiguration设置给configuration。那个value也要注意，它是我们要访问的那个服务在注册中心的名称。

经过以上两步就可以将负载均衡算法从默认的Round-Robin切换到Random了。

我们来测试下。我发起了3次请求，可以发现后两次都调用到了9082这个实例，而不是交替调用了。

2021-11-22 20:16:16.955      : [28a68bda] HTTP POST http://192.168.31.38:9081/order/payment
...
2021-11-22 20:16:20.433      : [2a4cf7f2] HTTP POST http://192.168.31.38:9082/order/payment
...
2021-11-22 20:16:32.969      : [b2a692a] HTTP POST http://192.168.31.38:9082/order/payment

总结

以上就是SpringCloud Load Balancer的一些总结，使用还是比较简单的，但是原理部分还是比较难理解的，如果有兴趣还是看看为好，正所谓不仅要知其然而且要知其所以然，才能脱颖而出…

接下来我们实践Spring Cloud Gateway，请持续关注

源码GitHub地址：链接文章末尾查看

这篇关于微服务实践之负载均衡（Spring Cloud Load Balancer）-SpringCloud(2020.0.x)-2的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/485861。

相关文章

JVM 的类初始化机制

JVM 的类初始化机制

前言 当你在 Java 程序中new对象时，有没有考虑过 JVM 是如何把静态的字节码（byte code）转化为运行时对象的呢，这个问题看似简单，但清楚的同学相信也不会太多，这篇文章首先介绍 JVM 类初始化的机制，然后给出几个易出错的实例来分析，帮助大家更好理解这个知识点。 JVM 将字节码转化为运行时对象分为三个阶段，分别是：loading 、Linking、initialization
阅读更多...
Spring Security 基于表达式的权限控制

Spring Security 基于表达式的权限控制

前言 spring security 3.0已经可以使用spring el表达式来控制授权，允许在表达式中使用复杂的布尔逻辑来控制访问的权限。 常见的表达式 Spring Security可用表达式对象的基类是SecurityExpressionRoot。 表达式描述hasRole([role])用户拥有制定的角色时返回true （Spring security默认会带有ROLE_前缀）,去
阅读更多...
浅析Spring Security认证过程

浅析Spring Security认证过程

类图 为了方便理解Spring Security认证流程，特意画了如下的类图，包含相关的核心认证类 概述 核心验证器 AuthenticationManager 该对象提供了认证方法的入口，接收一个Authentiaton对象作为参数; public interface AuthenticationManager {Authentication authenticate(Authenti
阅读更多...
Spring Security--Architecture Overview

Spring Security--Architecture Overview

1 核心组件 这一节主要介绍一些在Spring Security中常见且核心的Java类，它们之间的依赖，构建起了整个框架。想要理解整个架构，最起码得对这些类眼熟。 1.1 SecurityContextHolder SecurityContextHolder用于存储安全上下文（security context）的信息。当前操作的用户是谁，该用户是否已经被认证，他拥有哪些角色权限…这些都被保
阅读更多...
Spring Security基于数据库验证流程详解

Spring Security基于数据库验证流程详解

Spring Security 校验流程图 相关解释说明（认真看哦） AbstractAuthenticationProcessingFilter 抽象类 /*** 调用 #requiresAuthentication(HttpServletRequest, HttpServletResponse) 决定是否需要进行验证操作。* 如果需要验证，则会调用 #attemptAuthentica
阅读更多...
Spring Security 从入门到进阶系列教程

Spring Security 从入门到进阶系列教程

Spring Security 入门系列 《保护 Web 应用的安全》 《Spring-Security-入门（一）：登录与退出》 《Spring-Security-入门（二）：基于数据库验证》 《Spring-Security-入门（三）：密码加密》 《Spring-Security-入门（四）：自定义-Filter》 《Spring-Security-入门（五）：在 Sprin
阅读更多...
Java架构师知识体认识

Java架构师知识体认识

源码分析 常用设计模式 Proxy代理模式Factory工厂模式Singleton单例模式Delegate委派模式Strategy策略模式Prototype原型模式Template模板模式 Spring5 beans 接口实例化代理Bean操作 Context Ioc容器设计原理及高级特性Aop设计原理Factorybean与Beanfactory Transaction 声明式事物
阅读更多...
基于MySQL Binlog的Elasticsearch数据同步实践

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展，我们的业务数据越来越多，单纯使用 MySQL 已经不能满足我们的数据查询需求，例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后，随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步，我们目前的解决方案是建立数据中间表。把需要检索的业务数据，统一放到一张M
阅读更多...
Hadoop集群数据均衡之磁盘间数据均衡

Hadoop集群数据均衡之磁盘间数据均衡

生产环境，由于硬盘空间不足，往往需要增加一块硬盘。刚加载的硬盘没有数据时，可以执行磁盘数据均衡命令。（Hadoop3.x新特性） plan后面带的节点的名字必须是已经存在的，并且是需要均衡的节点。 如果节点不存在，会报如下错误： 如果节点只有一个硬盘的话，不会创建均衡计划： （1）生成均衡计划 hdfs diskbalancer -plan hadoop102 （2）执行均衡计划 hd
阅读更多...
Java进阶13讲__第12讲_1/2

Java进阶13讲__第12讲_1/2

多线程、线程池 1.  线程概念 1.1  什么是线程 1.2  线程的好处 2.   创建线程的三种方式 注意事项 2.1  继承Thread类 2.1.1 认识  2.1.2  编码实现  package cn.hdc.oop10.Thread;import org.slf4j.Logger;import org.slf4j.LoggerFactory
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2