流控算法详解

2024-09-03 03:28
文章标签 算法 详解 流控

本文主要是介绍流控算法详解,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

概述

流控指控制系统流量的平均速度,一般会为系统设置一个阀值,对阀值内的流量正常处理,如果流量超过这个值,就对超出阀值部分的流量进行拒绝或丢弃操作,保障系统不被冲量冲垮

工作中常用的流控算法有固定窗口算法、漏桶算法和令牌桶算法


固定窗口算法

固定窗口算法指设定一个时间窗口,给这个时间窗口设定一个阈值,同时实时统计用户在这个时问窗口上的流量,当用户的流量达到阈值时对用户的流量进行限流,在时间窗口到期后重新创建一个时间窗口重新统计

固定窗口算法存在漏洞:当有很多用户请求都调用失败,等待窗口到期时,一旦窗口,则大量的用户请求涌入,进而形成“消息踩踏”事件。比如时间窗口为 10s、窗口大小为 1000 条,在 5s 左右客户端使用完了所有请求流量,这时所有客户端请求都将处于 Block 状态。时间窗口到期后,系统会重新创建一时间窗口。由于新创建的时间窗口的流量从零开始统计,所以刚才处于 Block 状态的客户端请求立即涌入系统,形成“消息踩踏”事件

所以,时间窗口能够保障各个窗口的流量均等,但是对于窗口内部的某个时刻突发流量上涨的情况,时间窗口算法不能很好地限流


漏桶算法

漏桶算法主要用于控制流量速度,应对突发流量。当用户请求系统时,首先将用户请求放在一个漏桶,处理器从漏桶以一定的速度获取数据并处理请求,当请求量过大且超过漏桶容量时,桶内的流量会直接溢出,丢弃超出漏桶容量的流量

我们可以将漏桶算法简单理解为一个先进先出的消息队列,当队列填满数据时,请求将被抛弃。队列不保证某个时间点内的请求一定会得到处理,往往是在系统一段时间内的处理能力有限时,起到削蜂填谷的作用


令牌桶算法

令牌桶算法首先会创建一个桶用于存放令牌,每秒会有 x 个令牌被放入桶中,最多存放 n 个令牌,如果桶满了,那么新到来的令牌会被丢弃。每收到一个请求,就从令牌桶中获取一个令牌,如果获取到令牌就对请求进行处理。如果在令牌桶中没有可用的令牌,就把这些请求丢弃

在令牌桶算法中,只要在令牌桶中存在可用的令牌,就允许突发流量的到来,直到流量达到用户配置的限额。所以比起漏桶算法,采用令牌桶算法能应对突发流量的情况

这篇关于流控算法详解的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1131891

相关文章

Debezium 与 Apache Kafka 的集成方式步骤详解

《Debezium与ApacheKafka的集成方式步骤详解》本文详细介绍了如何将Debezium与ApacheKafka集成,包括集成概述、步骤、注意事项等,通过KafkaConnect,D... 目录一、集成概述二、集成步骤1. 准备 Kafka 环境2. 配置 Kafka Connect3. 安装 D

Java中ArrayList和LinkedList有什么区别举例详解

《Java中ArrayList和LinkedList有什么区别举例详解》:本文主要介绍Java中ArrayList和LinkedList区别的相关资料,包括数据结构特性、核心操作性能、内存与GC影... 目录一、底层数据结构二、核心操作性能对比三、内存与 GC 影响四、扩容机制五、线程安全与并发方案六、工程

Spring Cloud LoadBalancer 负载均衡详解

《SpringCloudLoadBalancer负载均衡详解》本文介绍了如何在SpringCloud中使用SpringCloudLoadBalancer实现客户端负载均衡,并详细讲解了轮询策略和... 目录1. 在 idea 上运行多个服务2. 问题引入3. 负载均衡4. Spring Cloud Load

Springboot中分析SQL性能的两种方式详解

《Springboot中分析SQL性能的两种方式详解》文章介绍了SQL性能分析的两种方式:MyBatis-Plus性能分析插件和p6spy框架,MyBatis-Plus插件配置简单,适用于开发和测试环... 目录SQL性能分析的两种方式:功能介绍实现方式:实现步骤:SQL性能分析的两种方式:功能介绍记录

在 Spring Boot 中使用 @Autowired和 @Bean注解的示例详解

《在SpringBoot中使用@Autowired和@Bean注解的示例详解》本文通过一个示例演示了如何在SpringBoot中使用@Autowired和@Bean注解进行依赖注入和Bean... 目录在 Spring Boot 中使用 @Autowired 和 @Bean 注解示例背景1. 定义 Stud

如何通过海康威视设备网络SDK进行Java二次开发摄像头车牌识别详解

《如何通过海康威视设备网络SDK进行Java二次开发摄像头车牌识别详解》:本文主要介绍如何通过海康威视设备网络SDK进行Java二次开发摄像头车牌识别的相关资料,描述了如何使用海康威视设备网络SD... 目录前言开发流程问题和解决方案dll库加载不到的问题老旧版本sdk不兼容的问题关键实现流程总结前言作为

SQL 中多表查询的常见连接方式详解

《SQL中多表查询的常见连接方式详解》本文介绍SQL中多表查询的常见连接方式,包括内连接(INNERJOIN)、左连接(LEFTJOIN)、右连接(RIGHTJOIN)、全外连接(FULLOUTER... 目录一、连接类型图表(ASCII 形式)二、前置代码(创建示例表)三、连接方式代码示例1. 内连接(I

Go路由注册方法详解

《Go路由注册方法详解》Go语言中,http.NewServeMux()和http.HandleFunc()是两种不同的路由注册方式,前者创建独立的ServeMux实例,适合模块化和分层路由,灵活性高... 目录Go路由注册方法1. 路由注册的方式2. 路由器的独立性3. 灵活性4. 启动服务器的方式5.

Java中八大包装类举例详解(通俗易懂)

《Java中八大包装类举例详解(通俗易懂)》:本文主要介绍Java中的包装类,包括它们的作用、特点、用途以及如何进行装箱和拆箱,包装类还提供了许多实用方法,如转换、获取基本类型值、比较和类型检测,... 目录一、包装类(Wrapper Class)1、简要介绍2、包装类特点3、包装类用途二、装箱和拆箱1、装

Go语言中三种容器类型的数据结构详解

《Go语言中三种容器类型的数据结构详解》在Go语言中,有三种主要的容器类型用于存储和操作集合数据:本文主要介绍三者的使用与区别,感兴趣的小伙伴可以跟随小编一起学习一下... 目录基本概念1. 数组(Array)2. 切片(Slice)3. 映射(Map)对比总结注意事项基本概念在 Go 语言中,有三种主要