本文主要是介绍Resilience4j 知识总结,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
Resilience4j 知识总结
1、服务雪崩
服务与服务之间的依赖性,故障会传播,造成连锁反应,会对整个微服务系统造成灾难性的严重后果,这就是服务故障的“雪崩”效应。
造成雪崩原因是什么
- 服务提供者不可用(硬件故障、程序bug、缓存击穿、用户大量请求)
- 重试加大流量(用户重试,代码逻辑重试)
- 服务调用者不可用(同步等待造成的资源耗尽)
注意:
在高并发访问下,系统所依赖的服务的稳定性对系统的影响非常大,依赖有很多不可控的因素,比如网络连接变慢,资源突然繁忙,暂时不可用,服务脱机等。我们要构建稳定、可靠的分布式系统,就必须要有一套容错方法。
2.服务雪崩解决方案
2.1服务熔断
什么是熔断?
熔断就跟保险丝一样,当一个服务请求并发特别大,服务器已经招架不住了,调用错误率飙升,当错误率达到一定阈值后,就将这个服务熔断了。熔断之后,后续的请求就不会再请求服务器了,以减缓服务器的压力
注意:
2.2服务降级
**两种场景: **
- 当下游的服务因为某种原因响应过慢,下游服务主动停掉一些不太重要的业务,释放出服务器资源,增加响应速度!
- 当下游的服务因为某种原因不可用,上游主动调用本地的一些降级逻辑,避免卡顿,迅速返回给用户
**服务降级 fallback **
概念:服务器繁忙,请稍后重试,不让客户端等待并立即返回一个友好的提示。
出现服务降级的情况
- 程序运行异常
- 超时
- 服务熔断触发服务降级
- 线程池/信号量打满也会导致服务降级
当失败率(如因网络故障/超时造成的失败率高)达到阀值自动触发降级,熔断器触发的快速失败会进行快速恢复。
2.3服务隔离
做服务隔离的目的就是避免服务之间相互影响。毕竟谁也不能说自己的微服务百分百可用,如果不做隔离,一旦一个服务出现了问题,整个系统的稳定性都会受到影响! 因此,做服务隔离是很有必要的。
线程池隔离
将用户请求线程和服务执行线程分割开来,同时约定了每个服务最多可用线程数。
信号量隔离
小时候我们就知道“红灯停,绿灯行”,跟着交通信号的指示过马路。信号量也是这么一种放行、禁行的开关作用。它和线程池技术一样,控制了服务可以被同时访问的并发数量。
2.4服务限流
服务熔断和服务隔离都属于出错后的容错处理机制,而限流模式则可以称为预防模式。
限流模式主要是提前对各个类型的请求设置最高的QPS阈值,若高于设置的阈值则对该请求直接返回,不再调用后续资源。
**注意: **
限流的目的是通过对并发访问/请求进行限速,或者对一个时间窗口内的请求进行限速来保护系统,一旦达到限制速率则可以拒绝服务、排队或等待、降级等处理。
**流量控制 **
- 网关限流:防止大量请求进入系统,Mq实现流量消峰
- 用户交流限流:提交按钮限制点击频率限制等
3.服务断路器Resilience4j
Resilience4j 是一个轻量级的容错库,用于在 Java 8 及更高版本的应用程序中实现容错、限流、重试和熔断等功能。它提供了一种简单而强大的方法来处理分布式系统中的故障和延迟。本文将对 Resilience4j 的主要功能进行总结,包括其核心组件、使用方法和一些高级特性。
3.1、核心组件
Circuit Breaker(熔断器)
熔断器是一种保护机制,用于防止系统在出现故障时继续尝试执行操作。当一个服务连续失败达到一定次数时,熔断器会打开,后续请求将直接返回错误,而不是继续尝试调用服务。当服务恢复正常后,熔断器会自动关闭。**Resilience4j 有异常比例熔断降级和慢调用比例熔断降级。**异常比例熔断注重请求异常的比例,慢调用注重请求超时异常的比重。
Resilience4j 提供了 CircuitBreaker 类来实现熔断器功能。以下是一个简单的示例:
CircuitBreakerConfig circuitBreakerConfig = CircuitBreakerConfig.custom().failureRateThreshold(50) // 失败率阈值,超过此值熔断器将打开.waitDurationInOpenState(Duration.ofMillis(100)) // 熔断器打开后的等待时间.permittedNumberOfCallsInHalfOpenState(2) // 半开状态下允许的调用次数.slidingWindowSize(10) // 滑动窗口大小.build();CircuitBreaker circuitBreaker = CircuitBreaker.of("myCircuitBreaker", circuitBreakerConfig);Mono<String> result = Mono.defer(() -> {if (circuitBreaker.isCallPermitted("myCircuitBreaker")) {return Mono.just("Hello, World!");} else {return Mono.error(new RuntimeException("Circuit breaker is open"));}
});
RateLimiter(限流器)
限流器用于限制系统资源的使用,以防止过载。Resilience4j 提供了 RateLimiter 类来实现限流功能。以下是一个简单的示例:
RateLimiterConfig rateLimiterConfig = RateLimiterConfig.custom().limitForPeriod(10) // 每秒允许的请求数量.limitRefreshPeriod(Duration.ofSeconds(1)) // 刷新周期.build();RateLimiter rateLimiter = RateLimiter.of("myRateLimiter", rateLimiterConfig);Mono<String> result = Mono.defer(() -> {if (rateLimiter.tryAcquire()) {return Mono.just("Hello, World!");} else {return Mono.error(new RuntimeException("Rate limit exceeded"));}
});
Retry(重试)
重试是一种策略,用于在操作失败时自动重新尝试执行。Resilience4j 提供了 Retry 类来实现重试功能。以下是一个简单的示例:
RetryConfig retryConfig = RetryConfig.custom().maxAttempts(3) // 最大重试次数.waitDuration(Duration.ofMillis(100)) // 重试之间的等待时间.retryOnException(e -> e instanceof IOException) // 指定需要重试的异常类型.build();Retry retry = Retry.of("myRetry", retryConfig);Mono<String> result = Mono.defer(() -> {if (retry.isRetry()) {return Mono.error(new IOException("Retrying..."));} else {return Mono.just("Hello, World!");}
}).retryWhen(retry);
4、使用方法
依赖添加
在项目的 build.gradle 或 pom.xml 文件中添加 Resilience4j 的依赖:
implementation ‘io.github.resilience4j:resilience4j-core:1.7.0’
创建实例
根据需要创建 CircuitBreaker、RateLimiter 或 Retry 的实例,并配置相应的参数。
使用实例
在需要的地方使用创建的实例,例如在调用远程服务或执行可能失败的操作时。
5、高级特性
自定义注解
Resilience4j 支持自定义注解,可以更方便地应用到方法上。例如,可以创建一个名为 @Retryable 的注解,并在需要重试的方法上使用它:
@Retention(RetentionPolicy.RUNTIME)
@Target(ElementType.METHOD)
public @interface Retryable {int maxAttempts() default 3;Duration waitDuration() default Duration.ofMillis(100);Class<? extends Throwable>[] retryOnException() default {};
}
然后在需要重试的方法上添加 @Retryable 注解:
@Retryable(maxAttempts = 3, waitDuration = Duration.ofMillis(100))
public Mono<String> myMethod() {// ...
}
组合使用
Resilience4j 支持将多个组件组合在一起使用,例如可以将 CircuitBreaker 和 Retry 组合起来,以实现更强大的容错能力。以下是一个简单的示例:
CircuitBreaker circuitBreaker = CircuitBreaker.ofDefaults("myCircuitBreaker");
Retry retry = Retry.ofDefaults("myRetry");Mono<String> result = Mono.defer(() -> {if (circuitBreaker.isCallPermitted("myCircuitBreaker") && retry.isRetry()) {return Mono.just("Hello, World!");} else {return Mono.error(new RuntimeException("Operation failed"));}
}).retryWhen(retry);
4、总结
Resilience4j 是一个功能强大且易于使用的容错库,可以帮助我们更好地应对分布式系统中的故障和延迟。通过本文的介绍,相信大家已经对 Resilience4j 的核心组件、使用方法和高级特性有了一定的了解。在实际项目中,可以根据需要选择合适的组件和配置,以提高系统的可靠性和稳定性。
以上就是全部内容,如果你有任何问题、意见或建议,都欢迎在评论中分享。让我们继续分享知识,共同成长,一起走向更加美好的未来。感谢你们的阅读,祝愿你们在未来的道路上一帆风顺!
这篇关于Resilience4j 知识总结的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!