流控算法详解

2024-09-03 03:28
文章标签 算法 详解 流控

本文主要是介绍流控算法详解,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

概述

流控指控制系统流量的平均速度,一般会为系统设置一个阀值,对阀值内的流量正常处理,如果流量超过这个值,就对超出阀值部分的流量进行拒绝或丢弃操作,保障系统不被冲量冲垮

工作中常用的流控算法有固定窗口算法、漏桶算法和令牌桶算法


固定窗口算法

固定窗口算法指设定一个时间窗口,给这个时间窗口设定一个阈值,同时实时统计用户在这个时问窗口上的流量,当用户的流量达到阈值时对用户的流量进行限流,在时间窗口到期后重新创建一个时间窗口重新统计

固定窗口算法存在漏洞:当有很多用户请求都调用失败,等待窗口到期时,一旦窗口,则大量的用户请求涌入,进而形成“消息踩踏”事件。比如时间窗口为 10s、窗口大小为 1000 条,在 5s 左右客户端使用完了所有请求流量,这时所有客户端请求都将处于 Block 状态。时间窗口到期后,系统会重新创建一时间窗口。由于新创建的时间窗口的流量从零开始统计,所以刚才处于 Block 状态的客户端请求立即涌入系统,形成“消息踩踏”事件

所以,时间窗口能够保障各个窗口的流量均等,但是对于窗口内部的某个时刻突发流量上涨的情况,时间窗口算法不能很好地限流


漏桶算法

漏桶算法主要用于控制流量速度,应对突发流量。当用户请求系统时,首先将用户请求放在一个漏桶,处理器从漏桶以一定的速度获取数据并处理请求,当请求量过大且超过漏桶容量时,桶内的流量会直接溢出,丢弃超出漏桶容量的流量

我们可以将漏桶算法简单理解为一个先进先出的消息队列,当队列填满数据时,请求将被抛弃。队列不保证某个时间点内的请求一定会得到处理,往往是在系统一段时间内的处理能力有限时,起到削蜂填谷的作用


令牌桶算法

令牌桶算法首先会创建一个桶用于存放令牌,每秒会有 x 个令牌被放入桶中,最多存放 n 个令牌,如果桶满了,那么新到来的令牌会被丢弃。每收到一个请求,就从令牌桶中获取一个令牌,如果获取到令牌就对请求进行处理。如果在令牌桶中没有可用的令牌,就把这些请求丢弃

在令牌桶算法中,只要在令牌桶中存在可用的令牌,就允许突发流量的到来,直到流量达到用户配置的限额。所以比起漏桶算法,采用令牌桶算法能应对突发流量的情况

这篇关于流控算法详解的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1131891

相关文章

C语言函数递归实际应用举例详解

《C语言函数递归实际应用举例详解》程序调用自身的编程技巧称为递归,递归做为一种算法在程序设计语言中广泛应用,:本文主要介绍C语言函数递归实际应用举例的相关资料,文中通过代码介绍的非常详细,需要的朋... 目录前言一、递归的概念与思想二、递归的限制条件 三、递归的实际应用举例(一)求 n 的阶乘(二)顺序打印

Python Faker库基本用法详解

《PythonFaker库基本用法详解》Faker是一个非常强大的库,适用于生成各种类型的伪随机数据,可以帮助开发者在测试、数据生成、或其他需要随机数据的场景中提高效率,本文给大家介绍PythonF... 目录安装基本用法主要功能示例代码语言和地区生成多条假数据自定义字段小结Faker 是一个 python

Java Predicate接口定义详解

《JavaPredicate接口定义详解》Predicate是Java中的一个函数式接口,它代表一个判断逻辑,接收一个输入参数,返回一个布尔值,:本文主要介绍JavaPredicate接口的定义... 目录Java Predicate接口Java lamda表达式 Predicate<T>、BiFuncti

详解如何通过Python批量转换图片为PDF

《详解如何通过Python批量转换图片为PDF》:本文主要介绍如何基于Python+Tkinter开发的图片批量转PDF工具,可以支持批量添加图片,拖拽等操作,感兴趣的小伙伴可以参考一下... 目录1. 概述2. 功能亮点2.1 主要功能2.2 界面设计3. 使用指南3.1 运行环境3.2 使用步骤4. 核

一文详解JavaScript中的fetch方法

《一文详解JavaScript中的fetch方法》fetch函数是一个用于在JavaScript中执行HTTP请求的现代API,它提供了一种更简洁、更强大的方式来处理网络请求,:本文主要介绍Jav... 目录前言什么是 fetch 方法基本语法简单的 GET 请求示例代码解释发送 POST 请求示例代码解释

springboot+dubbo实现时间轮算法

《springboot+dubbo实现时间轮算法》时间轮是一种高效利用线程资源进行批量化调度的算法,本文主要介绍了springboot+dubbo实现时间轮算法,文中通过示例代码介绍的非常详细,对大家... 目录前言一、参数说明二、具体实现1、HashedwheelTimer2、createWheel3、n

详解nginx 中location和 proxy_pass的匹配规则

《详解nginx中location和proxy_pass的匹配规则》location是Nginx中用来匹配客户端请求URI的指令,决定如何处理特定路径的请求,它定义了请求的路由规则,后续的配置(如... 目录location 的作用语法示例:location /www.chinasem.cntestproxy

CSS will-change 属性示例详解

《CSSwill-change属性示例详解》will-change是一个CSS属性,用于告诉浏览器某个元素在未来可能会发生哪些变化,本文给大家介绍CSSwill-change属性详解,感... will-change 是一个 css 属性,用于告诉浏览器某个元素在未来可能会发生哪些变化。这可以帮助浏览器优化

Python基础文件操作方法超详细讲解(详解版)

《Python基础文件操作方法超详细讲解(详解版)》文件就是操作系统为用户或应用程序提供的一个读写硬盘的虚拟单位,文件的核心操作就是读和写,:本文主要介绍Python基础文件操作方法超详细讲解的相... 目录一、文件操作1. 文件打开与关闭1.1 打开文件1.2 关闭文件2. 访问模式及说明二、文件读写1.

详解C++中类的大小决定因数

《详解C++中类的大小决定因数》类的大小受多个因素影响,主要包括成员变量、对齐方式、继承关系、虚函数表等,下面就来介绍一下,具有一定的参考价值,感兴趣的可以了解一下... 目录1. 非静态数据成员示例:2. 数据对齐(Padding)示例:3. 虚函数(vtable 指针)示例:4. 继承普通继承虚继承5.