服务限流/API限流(Zuul+RateLimiter)

2023-12-02 08:58

本文主要是介绍服务限流/API限流(Zuul+RateLimiter),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录

 

 

一、前言

1、什么是RateLimiter、Spring Cloud Zuul RateLimiter?

2、本篇主要内容

3、本篇环境信息

4、准备工作

二、服务限流(Zuul+RateLimiter)

1、默认服务限流策略

2、为指定服务单独配置限流策略

3、基于URL的限流策略

三、Zuul集群服务限流(Zuul+RateLimiter+Redis)

1、部署Reids Server

2、引入 Spring Data Redis

3、配置Redis连接

4、配置RateLimiter数据存储方式

四、备注

Zuul-RateLimiter参数说明

附录


 

一、前言

1、什么是RateLimiter、Spring Cloud Zuul RateLimiter?

RateLimiter是Google开源的实现了令牌桶算法的限流工具(速率限制器)。http://ifeve.com/guava-ratelimiter/

Spring Cloud Zuul RateLimiter结合Zuul对RateLimiter进行了封装,通过实现ZuulFilter提供了服务限流功能

限流粒度/类型说明
Authenticated User针对请求的用户进行限流
Request Origin针对请求的Origin进行限流
URL针对URL/接口进行限流
Service针对服务进行限流,如果没有配置限流类型,则此类型生效

https://github.com/marcosbarbero/spring-cloud-zuul-ratelimit

2、本篇主要内容

  • 服务限流配置示例与说明
  • URL限流配置示例与说明
  • Zull集群服务限流说明(+Redis)
  • Spring Cloud Zuul RateLimiter参数介绍

3、本篇环境信息

框架版本
Spring Boot2.0.0.RELEASE
Spring CloudFinchley.RELEASE
Zuul1.3.1
JDK1.8.x

4、准备工作

参考上一篇:https://ken.io/note/spring-cloud-zuul-quickstart
基于源码:https://github.com/ken-io/springcloud-course/tree/master/chapter-08

  • 准备Eureka Server、服务提供者

启动Eureka Server: http://localhost:8800
启动Test Service:http://localhost:8602

二、服务限流(Zuul+RateLimiter)

基于上一篇中zuul项目的源码进行修改即可:https://github.com/ken-io/springcloud-course/tree/master/chapter-08/zuul

  • 引入spring-cloud-zuul-ratelimit
<dependency><groupId>com.marcosbarbero.cloud</groupId><artifactId>spring-cloud-zuul-ratelimit</artifactId><version>2.0.4.RELEASE</version>
</dependency>

1、默认服务限流策略

  • 修改 application.yml 配置限流策略
zuul:ratelimit:enabled: truedefault-policy:limit: 1quota: 2refresh-interval: 3

以上配置表示启用限流策略,并且所有服务在3秒内只能有1次请求且所有请求时间总和不得超过2秒

  • 限流测试

启动zuul项目,然后访问 http://localhost:8888/testservice?token=ken
3秒内访问两次,就会看到错误页面

image

错误信息:type=Too Many Requests, status=429
这说明3秒内的>1次的访问已经被限流策略挡掉

2、为指定服务单独配置限流策略

  • 修改 application.yml 配置限流策略
zuul:ratelimit:enabled: truedefault-policy:limit: 1quota: 1refresh-interval: 3policies:testservice:limit: 10quota: 50refresh-interval: 60

以上配置单独为testservice配置了限流策略。60秒内访问次数不得查过10次且访问时间这不得超过50秒。

虽然我们也同时配置了默认限流策略,而且默认限流策略比testservice的限流策略还要更严格,但是这个限流并不会冲突。因为一旦我们为某个服务单独配置了限流策略,那么只有这个单独配置的限流策略会对该服务生效。

3、基于URL的限流策略

  • 修改 application.yml 配置限流策略
zuul:ratelimit:enabled: truedefault-policy:limit: 1quota: 1refresh-interval: 3policies:testservice:limit: 10quota: 50refresh-interval: 60type: url

以上配置只是在testservice的策略上增加了type参数的设置。(当然也可以在默认策略加这个参数)。

那么这个策略就变成了:每个Url60秒内访问次数不得超过10次且总计访问时间这不得超过50秒。

  • 访问测试

启动zuul项目,然后访问: http://localhost:8888/testservice?token=ken
达到限流阈值后,访问:
http://localhost:8888/testservice/plus?token=ken&numA=1&numB=2

依然可以正常访问。
另外,需要值得注意的是,?后面的参数是不会作为限流的key的。
http://localhost:8888/testservice?token=ken , http://localhost:8888/testservice?token=ken.io 会被作为同一个url进行限流

如果zuul-ratelimiter的限流粒度/方式不能满足你的需求,你可以选择自定义ZuulFilter集成RateLimiter去做限流。

三、Zuul集群服务限流(Zuul+RateLimiter+Redis)

RateLimiter的限流数据是默认以ConcurrentHashMap方式存储在内存中的,
当我们部署了Zuul集群的时候,就会影响我们的限流策略了。我们可以将限流数据存储在Redis中,这样就可以集中记录各个Zuul节点的限流数据,来保证限流的准确性。

1、部署Reids Server

参考:https://ken.io/note/centos7-redis4-setup

2、引入 Spring Data Redis

<dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-data-redis</artifactId><version>2.0.4.RELEASE</version>
</dependency>

3、配置Redis连接

修改application.yml

spring:redis:host: 192.168.88.11port: 6379

4、配置RateLimiter数据存储方式

zuul:ratelimit:enabled: truerepository: redisdefault-policy:limit: 1quota: 1refresh-interval: 3policies:testservice:limit: 10quota: 50refresh-interval: 60type: url

四、备注

Zuul-RateLimiter参数说明

  • Zuul-RateLimiter基本配置项
配置项可选值说明
enabledtrue/false是否启用限流
behind-proxytrue/false翻了源码,没发现有使用。。。作者也没说明。。。
key-prefixString限流key前缀
repositoryCONSUL, REDIS, JPA, BUCKET4J_JCACHE, BUCKET4J_HAZELCAST, BUCKET4J_INFINISPAN, BUCKET4J_IGNITE, IN_MEMORY限流数据的存储方式,默认是:IN_MEMORY
default-policy默认策略
policies自定义策略
postFilterOrderpostFilter过滤顺序
preFilterOrderpreFilter过滤顺序
  • Policy限流策略配置项说明
说明
limit单位时间内请求次数限制
quota单位时间内累计请求时间限制(秒),非必要参数
refresh-interval单位时间(秒),默认60秒
type限流方式:ORIGIN, USER, URL

附录

  • 本篇代码示例

https://github.com/ken-io/springcloud-course/tree/master/chapter-09

  • 本篇参考

https://github.com/marcosbarbero/spring-cloud-zuul-ratelimit

http://ifeve.com/guava-ratelimiter/

这篇关于服务限流/API限流(Zuul+RateLimiter)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/444705

相关文章

windos server2022的配置故障转移服务的图文教程

《windosserver2022的配置故障转移服务的图文教程》本文主要介绍了windosserver2022的配置故障转移服务的图文教程,以确保服务和应用程序的连续性和可用性,文中通过图文介绍的非... 目录准备环境:步骤故障转移群集是 Windows Server 2022 中提供的一种功能,用于在多个

解决systemctl reload nginx重启Nginx服务报错:Job for nginx.service invalid问题

《解决systemctlreloadnginx重启Nginx服务报错:Jobfornginx.serviceinvalid问题》文章描述了通过`systemctlstatusnginx.se... 目录systemctl reload nginx重启Nginx服务报错:Job for nginx.javas

使用SpringBoot创建一个RESTful API的详细步骤

《使用SpringBoot创建一个RESTfulAPI的详细步骤》使用Java的SpringBoot创建RESTfulAPI可以满足多种开发场景,它提供了快速开发、易于配置、可扩展、可维护的优点,尤... 目录一、创建 Spring Boot 项目二、创建控制器类(Controller Class)三、运行

基于Redis有序集合实现滑动窗口限流的步骤

《基于Redis有序集合实现滑动窗口限流的步骤》滑动窗口算法是一种基于时间窗口的限流算法,通过动态地滑动窗口,可以动态调整限流的速率,Redis有序集合可以用来实现滑动窗口限流,本文介绍基于Redis... 滑动窗口算法是一种基于时间窗口的限流算法,它将时间划分为若干个固定大小的窗口,每个窗口内记录了该时间

【区块链 + 人才服务】可信教育区块链治理系统 | FISCO BCOS应用案例

伴随着区块链技术的不断完善,其在教育信息化中的应用也在持续发展。利用区块链数据共识、不可篡改的特性, 将与教育相关的数据要素在区块链上进行存证确权,在确保数据可信的前提下,促进教育的公平、透明、开放,为教育教学质量提升赋能,实现教育数据的安全共享、高等教育体系的智慧治理。 可信教育区块链治理系统的顶层治理架构由教育部、高校、企业、学生等多方角色共同参与建设、维护,支撑教育资源共享、教学质量评估、

【区块链 + 人才服务】区块链集成开发平台 | FISCO BCOS应用案例

随着区块链技术的快速发展,越来越多的企业开始将其应用于实际业务中。然而,区块链技术的专业性使得其集成开发成为一项挑战。针对此,广东中创智慧科技有限公司基于国产开源联盟链 FISCO BCOS 推出了区块链集成开发平台。该平台基于区块链技术,提供一套全面的区块链开发工具和开发环境,支持开发者快速开发和部署区块链应用。此外,该平台还可以提供一套全面的区块链开发教程和文档,帮助开发者快速上手区块链开发。

【LabVIEW学习篇 - 21】:DLL与API的调用

文章目录 DLL与API调用DLLAPIDLL的调用 DLL与API调用 LabVIEW虽然已经足够强大,但不同的语言在不同领域都有着自己的优势,为了强强联合,LabVIEW提供了强大的外部程序接口能力,包括DLL、CIN(C语言接口)、ActiveX、.NET、MATLAB等等。通过DLL可以使用户很方便地调用C、C++、C#、VB等编程语言写的程序以及windows自带的大

如何更优雅地对接第三方API

如何更优雅地对接第三方API 本文所有示例完整代码地址:https://github.com/yu-linfeng/BlogRepositories/tree/master/repositories/third 我们在日常开发过程中,有不少场景会对接第三方的API,例如第三方账号登录,第三方服务等等。第三方服务会提供API或者SDK,我依稀记得早些年Maven还没那么广泛使用,通常要对接第三方

基于SpringBoot的宠物服务系统+uniapp小程序+LW参考示例

系列文章目录 1.基于SSM的洗衣房管理系统+原生微信小程序+LW参考示例 2.基于SpringBoot的宠物摄影网站管理系统+LW参考示例 3.基于SpringBoot+Vue的企业人事管理系统+LW参考示例 4.基于SSM的高校实验室管理系统+LW参考示例 5.基于SpringBoot的二手数码回收系统+原生微信小程序+LW参考示例 6.基于SSM的民宿预订管理系统+LW参考示例 7.基于

Java基础回顾系列-第五天-高级编程之API类库

Java基础回顾系列-第五天-高级编程之API类库 Java基础类库StringBufferStringBuilderStringCharSequence接口AutoCloseable接口RuntimeSystemCleaner对象克隆 数字操作类Math数学计算类Random随机数生成类BigInteger/BigDecimal大数字操作类 日期操作类DateSimpleDateForma