本文主要是介绍服务熔断降级简介,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
背景
很多网站背后都是一个庞大的分布式系统,多个子系统之间的调用大多是远程调用,要么HTTP要么RPC,这种远程调用其实是不可控的,当调用链越长,风险也就越大。
在微服务中,当一切正常时,请求流看起来是这样的:
当其中有一个服务(例如服务I)有延迟时,它可能阻塞整个用户请求:
在高流量的情况下,一个依赖服务的延迟可能导致服务器上的所有资源在数秒内饱和,这也意味着后续再有请求将无法立即提供服务:
解决方案
当使用熔断降级框架时,框架会包装每个依赖项,原有架构会发生变化,每个依赖项相互隔离,当延迟发生时,它会被限制在资源中,并包含回退逻辑,以决定在依赖项中发生故障时应作出何种响应:
基础概念
服务雪崩
当微服务A调用微服务B,B调用C和其他微服务,当调用链上某个服务不可用或响应时间过长,网关路由到A上的请求就会占用越来越多的系统资源,导致系统崩溃,这种现象称作雪崩效应。
在分布式系统中,为了保证服务的可用性,我们一般会加入重试机制,在有些情况下,重试确实能解决问题,比如网络抖动等。但是有些情况下,重试只会加剧问题的严重性,会给下游服务造成极大的资源压力。
重试不行,不重试也不靠谱,那我们怎么预防服务雪崩呢?答案是熔断器模式
熔断器模式
熔断器模式(Circuit Breaker Pattern)是一种现代软件开发的设计模式,用来侦测错误,避免不断的触发相同错误导致的灾难性后果。一个完善的熔断器一般有三种状态:
- 关闭
- 默认情况是关闭的,熔断器本身自带计数器的功能,每当错误发生一次,计数器会累加,当达到一定条件时,熔断器就会自动跳到开启状态。
- 开启
- 在开启状态下,任何请求都会直接被拒绝,并且抛出异常信息。
- 半开启
- 在此状态下,断路器会允许部分请求通过,当通过的请求全部成功响应时,断路器会自动关闭。
- 在此状态下,断路器会允许部分请求通过,当通过的请求全部成功响应时,断路器会自动关闭。
如果在微服务中引入断路器模式,那么整个分布式系统将天然具备快速失败和无缝恢复的功能。
服务熔断
一般是某个服务故障或者是异常引起的,类似于“保险丝”,当某个异常条件被触发,为了防止服务雪崩,直接熔断服务,而不是一直等到此服务超时。
典型的熔断场景:例如过载保护,当请求线程数过多时被限流,
服务降级
当服务器压力剧增时,根据当前业务情况及流量,对一些非核心服务进行有策略的停服,缓解服务器资源压力,以保证核心业务的正常运行。
- 自动降级:超时、失败次数过多、故障
- 响应时间超过配置的超时时间(异步机制探测回复情况)
- 不稳的API调用次数达到一定数量(异步机制探测回复情况)
- 调用的服务出现故障(HTTP状态码、网络故障、RPC服务异常)
- 人工降级:秒杀、双十一大促,非核心服务停服
熔断和降级异同
- 相同点
- 从可用性和可靠性触发,为了防止系统崩溃
- 最终让用户体验到的是某些功能暂时不能用
- 不同点
- 服务熔断一般是下游服务故障导致的
- 服务降级一般是从整体系统负荷考虑,由调用方控制
Hystrix
配置
circuitBreaker.requestVolumeThreshold // 滑动窗口的大小,默认为20
circuitBreaker.sleepWindowInMilliseconds // 过多长时间,熔断器再次检测是否开启,默认为5000,即5s
circuitBreaker.errorThresholdPercentage // 错误率,默认50%
这几个参数所表达的意思是:每当20个请求中,有50%失败时,断路器就会打开,此时再调用此服务,将会直接返回失败,不再调远程服务。5s之后,重新检测该触发条件,判断是否把断路器关闭。
断路器打开之后,这种错误情况不可能直接传给用户,所以需要准备一个本地的fallback
回调函数,返回一个缺省值。
熔断降级代码示例
@GetMapping("/user/{id}")
@HystrixCommand(fallbackMethod ="hystrix_GET")
public User findById(@PathVariable("id") Integer id) {User user = userService.findById(id);if (null == user) {throw new RuntimeException("user not found");}return user;
}// 回调函数
public User hystrix_GET(@PathVariable("id") Integer id) {log.info("in fallbackMethod ..");return null;
}
启动类上加
@EnableCircuitBreaker
注解,开启服务熔断机制
Feign代码示例
@Component
public class UserClientFallback implements FallbackFactory<UserService> {@Overridepublic UserService create(Throwable throwable) {return new UserService() {@Overridepublic User findById(Integer id) {log.info("停服...");return null;}@Overridepublic List<User> findAll() {log.info("停服...");return null;}};}
}@FeignClient(value = "user-client",fallbackFactory = UserClientFallback.class)
public interface UserClient {@GetMapping("/user/{id}")public User findById(@PathVariable("id") Integer id);@GetMapping("/user")public List<User> findAll();
}
feign: # 开启feign熔断降级功能hystrix:enabled: true
Sentinel
熔断降级代码示例
@Service
public class TestService {@SentinelResource(value = "sayHello", blockHandler = "sayHelloBlockHandler")public String sayHello(String name) {return "Hello, " + name;}public Object sayHelloBlockHandler(String name, BlockException ex) {log.warn("Sentinel fallback", ex);return "Service down";}
}@RestController
public class TestController {@Autowiredprivate TestService service;@GetMapping(value = "/hello/{name}")public String apiHello(@PathVariable String name) {return service.sayHello(name);}
}
Feign代码示例
@FeignClient(name = "service", fallback = ServiceFallback.class, configuration = FeignConfig.class)
public interface Service {@RequestMapping(value = "/echo/{str}", method = RequestMethod.GET)String echo(@PathVariable("str") String str);
}class FeignConfig {@Beanpublic ServiceFallback serviceFallback() {return new ServiceFallback();}
}class ServiceFallback implements Service {@Overridepublic String echo(@PathVariable("str") String str) {return "echo fallback";}
}
熔断降级框架比较
Sentinel | Hystrix | resilience4j | |
---|---|---|---|
隔离策略 | 信号量隔离(并发线程数限流) | 线程池隔离/信号量隔离 | 信号量隔离 |
熔断降级策略 | 基于响应时间、异常比率、异常数 | 基于异常比率 | 基于异常比率、响应时间 |
实时统计实现 | 滑动窗口(LeapArray) | 滑动窗口(RxJava) | Ring Bit Buffer |
动态规则配置 | 支持多种数据源 | 支持多种数据源 | 有限支持 |
扩展性 | 多个扩展点 | 插件的形式 | 接口的形式 |
基于注解的支持 | 支持 | 支持 | 支持 |
限流 | 基于 QPS,支持基于调用关系的限流 | 有限的支持 | Rate Limiter |
流量整形 | 支持预热模式、匀速器模式、预热排队模式 | 不支持 | 简单的 Rate Limiter 模式 |
系统自适应保护 | 支持 | 不支持 | 不支持 |
控制台 | 提供开箱即用的控制台,可配置规则、查看秒级监控、机器发现等 | 简单的监控查看 | 不提供控制台,可对接其它监控系统 |
Hystrix官网,Hystrix已停止维护,Netflix官方推荐使用resilience4j,它更轻量,支持函数式接口和lambda表达式等使用方式,更加优雅。
Sentinel官网
这篇关于服务熔断降级简介的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!