SpringCloudGateway--Sentinel限流、熔断降级

2023-11-11 23:15
文章标签 java spring sentinel springcloudgateway 限流 降级 熔断

本文主要是介绍SpringCloudGateway--Sentinel限流、熔断降级，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

目录

一、概览

二、安装Sentinel

三、微服务整合sentinel

四、限流

1、流控模式

①直接

②关联

③链路

2、流控效果

①快速失败

②Warm Up

③排队等待

五、熔断降级

1、慢调用比例

2、异常比例

3、异常数

一、概览

       SpringCloudGateway是一个基于SpringBoot2.x的API网关，它可以帮助实现路由、过滤、容错等功能，同时也是微服务架构中不可或缺的一部分。在这篇博客中，将会了解到如何使用Sentinel实现SpringCloudGateway的限流、熔断降级。

        Sentinel是一个轻量级的流量控制框架，它可以帮助我们实现熔断降级、限流等功能，同时也可以与SpringCloudGateway无缝集成。通过使用Sentinel，可以有效地保护微服务架构免受故障和异常的影响。

二、安装Sentinel

        官方提供了UI控制台，下载地址：https://github.com/alibaba/Sentinel/releases

        将下载好的jar包放到任意非中文路径目录，使用java命令启动，可以修改Sentinel的默认端口、账户、密码；server.port默认8080，sentinel.dashboard.auth.username默认sentinel，sentinel.dashboard.auth.password默认sentinel。

        比如我这里放到D盘的Jar文件夹，启动时换成2500端口，命令如下：

java -Dserver.port=25000 -jar  D:\Jar\sentinel-dashboard-1.8.2.jar

        启动之后访问：http://localhost:25000/，账户密码都是sentinel，第一次启动后界面是空白的，因为还没有进行相关微服务项目的整合。

三、微服务整合sentinel

         SpringCloudGateWay项目参考：SpringCloudGateway--自动路由映射与手动路由映射_雨欲语的博客-CSDN博客，源码下载地址：

GitHub - dengyifanlittle/littledyf-test: my-test

        添加依赖：

        <!-- https://mvnrepository.com/artifact/com.alibaba.cloud/spring-cloud-starter-alibaba-sentinel --><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-sentinel</artifactId><version>2020.0.RC1</version></dependency>

        添加配置文件：

spring:cloud:sentinel:transport:# 服务监控端口dashboard: localhost:25000# 默认 8719，如果8719被占用了会自动从 8719 开始依次 +1 扫描，直至找到未被占用的端口port: 8719

四、限流

        启动项目，访问：http://localhost:9999/service/nacos/test，这时再刷新sentinel界面，里面便有数据了

        流控规则页面新增：

        资源名：指需要进行流控的资源名称。例如，如果我们需要对某个 API 接口进行流控，那么这个 API 接口的地址就是这个规则的资源名。

        针对来源：指需要进行流控的请求来源，可以是单个 IP 地址、应用程序、用户等。例如，我们可以为某个 IP 地址创建一个流控规则，或者为某个应用程序创建一个流控规则，填写微服务名，默认 default（不区分来源）。

         阈值类型/单位阈值：指流控的阈值类型和具体的阈值。阈值类型可以是并发线程数、QPS（每秒请求数）等，具体的阈值则取决于阈值类型。例如，如果阈值类型为并发线程数，那么阈值可以是 100，表示最多只能有 100 个并发线程在访问这个资源

        是否集群：指这个流控规则是否应用于整个集群，如果是，则表示该规则将应用于整个集群范围内的所有实例。如果不是，则表示规则只应用于当前实例。

        流控模式：指当超过阈值时，Sentinel 会采取的流控策略。有三种模式，分别为直接流控模式、关联流控模式、链路流控模式。

        ①直接流控模式：当资源超过阈值时，直接拒绝请求。这是一种比较常见的流控模式，适用于对请求处理能力要求比较高的场景，如秒杀系统。

        ②关联流控模式：当资源超过阈值时，拒绝请求的同时，还会对关联的资源进行流控。这种流控模式适用于有些资源的请求频率较低，但是对资源的请求能力有较大的影响的场景，如数据库或者缓存。

        ③链路流控模式：当资源超过阈值时，不仅会对当前请求进行流控，还会对整个请求链路上的资源进行流控。这种流控模式适用于分布式系统中的场景，例如微服务架构下的请求链路。

        流控效果：指当流控规则触发时，Sentinel 采取的具体流控效果。

        ①快速失败：在快速失败的流控效果下，当请求被拒绝后，Sentinel会立即返回错误信息，告诉请求方请求被拒绝。这种流控效果适用于对响应时间要求比较高的场景，例如秒杀系统或高并发的API接口。

        ②Warm Up：在Warm Up的流控效果下，当系统初次启动或资源被重新分配时，Sentinel会允许一部分请求通过，以减缓流控策略的限制，等待系统稳定后再进行全面的流控。这种流控效果适用于需要短时间内承受高流量的场景，例如系统升级或重启。

        ③排队等待：在排队等待的流控效果下，当请求被拒绝后，Sentinel会将请求放入等待队列中，等待资源可用后再进行处理。这种流控效果适用于对响应时间要求不是很高的场景，例如消息队列或后台任务。

1、流控模式

①直接

        新增流控规则，流控模式选择直接模式，阈值类型QPS，单机阈值1：

        使用jemeter进行测试，线程数量、现成启动时间、运行次数分别设置为1、1、4：

        可以看到有一个成功，三个失败，且失败信息是sentinel默认：

        删除原有规则，新增流控规则，流控模式选直接，阈值类型选择并发线程数，单机阈值设置为2，微服务中只启动一个service即可，并修改其中代码：

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;/*** @Author dengyifan* @create 2023/11/1 17:02* @description*/@RestController
@RequestMapping("/nacos")
public class NacosTestController {@GetMapping("/test")public String test() throws InterruptedException {Thread.sleep(2000);return "8088";}
}

         并发线程数表示1秒内访问该API接口的线程数，当排队的线程数达到设定的阈值的时候就会进行限流操作，这种通常是出现在访问接口响应很慢的时候，因此代码里面主动休眠2秒模拟。jmeter模拟测试时线程数设置为10，其余为1：

        可以看到返回结果中成功两次，其余8次失败，并返回sentinel默认错误信息：

        如果将sentinel的流控规则删除，则全部成功：

②关联

        新增流控规则，流控模式选择关联，阈值类型选择QPS，单机阈值设置为2，关联资源填写另外的访问接口：

        在我们的微服务中新增两个接口：

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;/*** @Author dengyifan* @create 2023/11/1 17:02* @description*/@RestController
@RequestMapping("/nacos")
public class NacosTestController {@GetMapping("/test-one")public String testOne() {return "8088-one";}@GetMapping("/test-two")public String testTwo() {return "8088-two";}
}

        在jmeter中线程组设置为1、1、10：

        设置两个http请求，分别设置为test-one和test-two：

        启动测试，可以发现模拟test-one的接口两个成功，8个失败，模拟test-two的接口10个全部成功，因为设置了关联模式，并且test-one关联了test-two接口，当test-two接口的访问超过2的时候，就会让test-one的处于失败状态。这种：

③链路

        对于链路模式，比如A路径会访问到资源C，B路径也会访问到资源C，此时配置链路模式，入口资源设置为A，当访问A达到一定限制就会触发限流，B没有配置，则不会触发。

        配置文件增加：

sentinel.web-context-unify=false

        在gateway项目中新建Controller和Service：

import com.littledyf.service.SentinelTestService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;/*** @Author dengyifan* @create 2023/11/9 10:41* @description*/
@RestController
@RequestMapping("/test")
public class SentinelTestController {@Autowiredprivate SentinelTestService sentinelTestService;@GetMapping("/test-sentinel")public String testSentinel() {return sentinelTestService.testSentinel();}
}

import com.alibaba.csp.sentinel.annotation.SentinelResource;
import org.springframework.stereotype.Service;/*** @Author dengyifan* @create 2023/11/9 10:42* @description*/
@Service
public class SentinelTestService {@SentinelResource("sentinel")public String testSentinel() {return "test sentinel";}
}

        其中@SentinelResource("sentinel")是手动设置资源名，sentinel只会扫描controller层的资源，service通过注解设置。

        新增链路流控：

        jmeter添加测试：

        启动测试查看结果可发现4次里面3次失败：

2、流控效果

①快速失败

        之前流控模式都是使用快速失败，即直接失败，抛出异常。

②Warm Up

        warm up是指预热，比如一些秒杀环节，之前系统流量不高，当秒杀开启突然升高，这个时候开启预热模式，让通过的流量缓慢增加，能够达到设定阈值为止，这样能够很好的保护系统。

        其中会有一个默认1的coldFactor，该值为3，请求QPS从threshold/3开始，经过设置的预热时间后达到设定的阈值，比如我们现在进行以下设置：

        即刚开始有5/3个，后面经过3秒后达到设定的阈值5。

        jmeter设置：

        启动后可以看到前几秒都有失败的，经过3秒后，就稳定达到5个成功：

③排队等待

        排队等待即让请求均匀通过，其实跟漏桶算法是对应的，选择排队等待，必须要将类型设置为QPS，否则是无效的：

        jmeter设置：

        效果：

五、熔断降级

        新增熔断规则界面：

资源名：指需要进行流控的资源名称。例如，如果我们需要对某个 API 接口进行流控，那么这个 API 接口的地址就是这个规则的资源名。

熔断策略：表示触发熔断的条件

①慢调用比例

②异常比例

③异常数

最大RT：当资源的响应时间超过设定的阈值，则统计计数

比例阈值：表示触发熔断的比例阈值，当某个熔断策略的比例超过该阈值，触发熔断

熔断时长：表示触发熔断后，保持熔断状态的时间，一般是为了避免熔断状态过早结束，导致系统负载过高

最小请求数：表述触发熔断的最小请求数，当某个资源的请求数不足该值时，不触发熔断

统计时长：表示熔断策略统计的时间范围，例如最近10秒内的统计数据

1、慢调用比例

        为了模拟慢调用，在接口中进行1000毫秒的休眠达到响应慢的作用：


import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;/*** @Author dengyifan* @create 2023/11/1 17:02* @description*/@RestController
@RequestMapping("/nacos")
public class NacosTestController {@GetMapping("/test")public String test() throws InterruptedException {Thread.sleep(1000);return "8088";}
}

        熔断设置：

        jmeter设置：

        结果：

        刚运行完之后，在5秒内继续运行，可以看到结果都是失败状态，都被熔断处理了。 

2、异常比例

        代码修改成会出现异常的情况：

import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;/*** @Author dengyifan* @create 2023/11/1 17:02* @description*/@RestController
@RequestMapping("/nacos")
public class NacosTestController {@GetMapping("/test")public String test() throws Exception {String s = null;if (s.equals("1")){return "1";}return "8088";}
}

        新增熔断规则，熔断策略选择异常比例：

        jmeter设置不变，其中前5个都会抛出空指针异常，后面5个是直接熔断：

3、异常数

        熔断策略选择异常数跟异常比例类似，只是异常比例变为异常数了而已

        sentinel还可以配置热点规则以及系统自适应限流。热点规则就类似于微博热搜一样，有时候突然一个热点访问量大，这时候可以进行限流设置，很多时候热点都会进行相应的缓存，比如加上一级缓存、二级缓存等，这些实际就是为了保护系统而进行的设置。

这篇关于SpringCloudGateway--Sentinel限流、熔断降级的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/393466。

相关文章

JVM 的类初始化机制

JVM 的类初始化机制

前言 当你在 Java 程序中new对象时，有没有考虑过 JVM 是如何把静态的字节码（byte code）转化为运行时对象的呢，这个问题看似简单，但清楚的同学相信也不会太多，这篇文章首先介绍 JVM 类初始化的机制，然后给出几个易出错的实例来分析，帮助大家更好理解这个知识点。 JVM 将字节码转化为运行时对象分为三个阶段，分别是：loading 、Linking、initialization
阅读更多...
Spring Security 基于表达式的权限控制

Spring Security 基于表达式的权限控制

前言 spring security 3.0已经可以使用spring el表达式来控制授权，允许在表达式中使用复杂的布尔逻辑来控制访问的权限。 常见的表达式 Spring Security可用表达式对象的基类是SecurityExpressionRoot。 表达式描述hasRole([role])用户拥有制定的角色时返回true （Spring security默认会带有ROLE_前缀）,去
阅读更多...
浅析Spring Security认证过程

浅析Spring Security认证过程

类图 为了方便理解Spring Security认证流程，特意画了如下的类图，包含相关的核心认证类 概述 核心验证器 AuthenticationManager 该对象提供了认证方法的入口，接收一个Authentiaton对象作为参数; public interface AuthenticationManager {Authentication authenticate(Authenti
阅读更多...
Spring Security--Architecture Overview

Spring Security--Architecture Overview

1 核心组件 这一节主要介绍一些在Spring Security中常见且核心的Java类，它们之间的依赖，构建起了整个框架。想要理解整个架构，最起码得对这些类眼熟。 1.1 SecurityContextHolder SecurityContextHolder用于存储安全上下文（security context）的信息。当前操作的用户是谁，该用户是否已经被认证，他拥有哪些角色权限…这些都被保
阅读更多...
Spring Security基于数据库验证流程详解

Spring Security基于数据库验证流程详解

Spring Security 校验流程图 相关解释说明（认真看哦） AbstractAuthenticationProcessingFilter 抽象类 /*** 调用 #requiresAuthentication(HttpServletRequest, HttpServletResponse) 决定是否需要进行验证操作。* 如果需要验证，则会调用 #attemptAuthentica
阅读更多...
Spring Security 从入门到进阶系列教程

Spring Security 从入门到进阶系列教程

Spring Security 入门系列 《保护 Web 应用的安全》 《Spring-Security-入门（一）：登录与退出》 《Spring-Security-入门（二）：基于数据库验证》 《Spring-Security-入门（三）：密码加密》 《Spring-Security-入门（四）：自定义-Filter》 《Spring-Security-入门（五）：在 Sprin
阅读更多...
Java架构师知识体认识

Java架构师知识体认识

源码分析 常用设计模式 Proxy代理模式Factory工厂模式Singleton单例模式Delegate委派模式Strategy策略模式Prototype原型模式Template模板模式 Spring5 beans 接口实例化代理Bean操作 Context Ioc容器设计原理及高级特性Aop设计原理Factorybean与Beanfactory Transaction 声明式事物
阅读更多...
Java进阶13讲__第12讲_1/2

Java进阶13讲__第12讲_1/2

多线程、线程池 1.  线程概念 1.1  什么是线程 1.2  线程的好处 2.   创建线程的三种方式 注意事项 2.1  继承Thread类 2.1.1 认识  2.1.2  编码实现  package cn.hdc.oop10.Thread;import org.slf4j.Logger;import org.slf4j.LoggerFactory
阅读更多...
JAVA智听未来一站式有声阅读平台听书系统小程序源码

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来，一站式有声阅读平台听书系统 🌟&nbsp;开篇：遇见未来，从“智听”开始 在这个快节奏的时代，你是否渴望在忙碌的间隙，找到一片属于自己的宁静角落？是否梦想着能随时随地，沉浸在知识的海洋，或是故事的奇幻世界里？今天，就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统，它正悄悄改变着我们的阅读方式，让未来触手可及！ 📚&nbsp;第一站：海量资源，应有尽有 走进“智听
阅读更多...
在cscode中通过maven创建java项目

在cscode中通过maven创建java项目

在cscode中创建java项目 可以通过博客完成maven的导入 建立maven项目 使用快捷键 Ctrl + Shift + P 建立一个 Maven 项目 1 Ctrl + Shift + P 打开输入框2 输入 "> java create"3 选择 maven4 选择 No Archetype5 输入 域名6 输入项目名称7 建立一个文件目录存放项目，文件名一般为项目名8 确定
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2