RabbitMQ流控-内存控制

2024-01-23 08:18
文章标签 内存 控制 rabbitmq 流控

本文主要是介绍RabbitMQ流控-内存控制,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

RabbitMQ服务器启动和执行rabbitmqctl set_vm_memory_high_watermark fraction命令时会检测计算机中安装的RAM(内存)总量。默认情况下,当RabbitMQ服务器使用超过40%的可用RAM时,它会发出内存警报并阻塞所有正在发布消息的Connection。一旦内存警报清除(例如,由于服务器将消息写到磁盘或将其投递给客户端消费并进行投递确认),服务恢复正常。

默认内存阈值设置为已安装RAM的40%。请注意,这并不会阻止RabbitMQ服务器使用超过40%的资源,这仅仅是对发布者(生产者)的限制。在最坏的情况下,Erlang的垃圾收集器会导致使用的内存数量增加一倍(默认情况下是80%的RAM)。强烈建议启用OS交换或page文件。

32位系统单进程的内存限制设置为2GB。64位系统的常见实现(例如AMD64和Intel EM64T)只允许每个进程256TB。64位Windows进一步将其限制为8TB。但是,请注意,即使在64位操作系统下,32位进程通常也只有2GB的最大地址空间。就是说,无论你的内存多大,你的默认阈值均为2GB*0.4=0.8GB(820M左右)。

Configuring the Memory Threshold

通过编辑配置文件,可以调整触发流控的内存阈值。下面的例子将阈值设置为默认值0.4:

vm_memory_high_watermark.relative = 0.4或
[{rabbit, [{vm_memory_high_watermark, 0.4}]}]

默认值0.4表示已安装RAM的40%或可用虚拟地址空间的40%(以较小的值为准)。例如,在32位平台上,如果您安装了4GB RAM,那么4GB的40%是1.6GB,但是32位Windows通常将进程限制为2GB,因此阈值实际上是2GB的40%(即820MB)。

或者,可以通过设置节点使用的RAM的绝对限制来调整内存阈值。下面的示例将阈值设置为1073741824字节(1024 MB):

vm_memory_high_watermark.absolute = 1073741824或
[{rabbit, [{vm_memory_high_watermark, {absolute, 1073741824}}]}]

使用内存单位:

vm_memory_high_watermark.absolute = 1024MB
([{rabbit, [{vm_memory_high_watermark, {absolute, "1024MiB"}}]}])
或
vm_memory_high_watermark.absolute = 1GB

如果绝对限制大于已安装的RAM或可用虚拟地址空间,则将阈值设置为较小的限制。

当RabbitMQ服务器启动时,内存限制信息会打印到RABBITMQ_NODENAME.log文件:

=INFO REPORT==== 29-Oct-2009::15:43:27 ===
Memory limit set to 2048MB.

还可以使用rabbitmqctl status命令查询内存限制。

当代理使用rabbitmqctl set_vm_memory_high_watermark fraction命令或rabbitmqctl set_vm_memory_high_watermark absolute memory_limit命令运行时,可以更改阈值。在这个命令中也可以使用内存单位。此命令将一直生效,直到代理(broker)关闭。在代理重新启动之后,还应该更改相应的配置设置。在不更改阈值的情况下执行此命令时,对于具有热插拔RAM的系统,内存限制可能会更改,原因是查询了系统RAM的总数量。

Disabling All Publishing

如果值为0,则内存警报将立即关闭,从而最终阻塞所有发布Connection(如果希望禁用全局发布,这可能很有用);
使用rabbitmqctl set_vm_memory_high_watermark 0

Limited Address Space

当在64位OS(或带有PAE的32位OS)的32位Erlang VM中运行RabbitMQ时,可寻址内存是有限的。服务器将检测到这一点,并记录如下消息:

=WARNING REPORT==== 19-Dec-2013::11:27:13 ===
Only 2048MB of 12037MB memory usable due to limited address space.
Crashes due to memory exhaustion are possible - see
http://www.rabbitmq.com/memory.html#address-space

因此强烈建议在64位OS上运行时使用64位Erlang VM。

Configuring the Paging Threshold

在代理(broker)到达内存阈值并阻塞发布者之前,它将尝试通过指示队列将其内容发送(Page)到磁盘来释放内存。
持久消息和临时消息都将被换出(持久消息已经在磁盘上,但将从内存中删除)。

默认情况下,当代理到达内存阈值的50%的位置时就会发生这种情况(即默认内存阈值为0.4时,使用20%的内存)。
要更改此值,请将vm_memory_high_watermark_paging_ratio配置的默认值修改为0.5。例如:

vm_memory_high_watermark_paging_ratio = 0.75
vm_memory_high_watermark.relative = 0.4
经典格式
[{rabbit, [{vm_memory_high_watermark_paging_ratio, 0.75},{vm_memory_high_watermark, 0.4}]}]

上面的配置在使用内存的30%时开始Page,在40%时阻塞发布者。

可以将vm_memory_high_watermark_paging_ratio设置为大于1.0的值。在这种情况下,队列不会将其内容page到磁盘。如果这导致内存警报关闭,那么将如上所述(直接)阻塞producer。

这篇关于RabbitMQ流控-内存控制的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/635780

相关文章

Python如何使用__slots__实现节省内存和性能优化

《Python如何使用__slots__实现节省内存和性能优化》你有想过,一个小小的__slots__能让你的Python类内存消耗直接减半吗,没错,今天咱们要聊的就是这个让人眼前一亮的技巧,感兴趣的... 目录背景:内存吃得满满的类__slots__:你的内存管理小助手举个大概的例子:看看效果如何?1.

Python异步编程中asyncio.gather的并发控制详解

《Python异步编程中asyncio.gather的并发控制详解》在Python异步编程生态中,asyncio.gather是并发任务调度的核心工具,本文将通过实际场景和代码示例,展示如何结合信号量... 目录一、asyncio.gather的原始行为解析二、信号量控制法:给并发装上"节流阀"三、进阶控制

使用DrissionPage控制360浏览器的完美解决方案

《使用DrissionPage控制360浏览器的完美解决方案》在网页自动化领域,经常遇到需要保持登录状态、保留Cookie等场景,今天要分享的方案可以完美解决这个问题:使用DrissionPage直接... 目录完整代码引言为什么要使用已有用户数据?核心代码实现1. 导入必要模块2. 关键配置(重点!)3.

SpringSecurity 认证、注销、权限控制功能(注销、记住密码、自定义登入页)

《SpringSecurity认证、注销、权限控制功能(注销、记住密码、自定义登入页)》SpringSecurity是一个强大的Java框架,用于保护应用程序的安全性,它提供了一套全面的安全解决方案... 目录简介认识Spring Security“认证”(Authentication)“授权” (Auth

python之流程控制语句match-case详解

《python之流程控制语句match-case详解》:本文主要介绍python之流程控制语句match-case使用,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录match-case 语法详解与实战一、基础值匹配(类似 switch-case)二、数据结构解构匹

Spring Security注解方式权限控制过程

《SpringSecurity注解方式权限控制过程》:本文主要介绍SpringSecurity注解方式权限控制过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、摘要二、实现步骤2.1 在配置类中添加权限注解的支持2.2 创建Controller类2.3 Us

Redis 内存淘汰策略深度解析(最新推荐)

《Redis内存淘汰策略深度解析(最新推荐)》本文详细探讨了Redis的内存淘汰策略、实现原理、适用场景及最佳实践,介绍了八种内存淘汰策略,包括noeviction、LRU、LFU、TTL、Rand... 目录一、 内存淘汰策略概述二、内存淘汰策略详解2.1 ​noeviction(不淘汰)​2.2 ​LR

Python中如何控制小数点精度与对齐方式

《Python中如何控制小数点精度与对齐方式》在Python编程中,数据输出格式化是一个常见的需求,尤其是在涉及到小数点精度和对齐方式时,下面小编就来为大家介绍一下如何在Python中实现这些功能吧... 目录一、控制小数点精度1. 使用 round() 函数2. 使用字符串格式化二、控制对齐方式1. 使用

Golang基于内存的键值存储缓存库go-cache

《Golang基于内存的键值存储缓存库go-cache》go-cache是一个内存中的key:valuestore/cache库,适用于单机应用程序,本文主要介绍了Golang基于内存的键值存储缓存库... 目录文档安装方法示例1示例2使用注意点优点缺点go-cache 和 Redis 缓存对比1)功能特性

Springboot控制反转与Bean对象的方法

《Springboot控制反转与Bean对象的方法》文章介绍了SpringBoot中的控制反转(IoC)概念,描述了IoC容器如何管理Bean的生命周期和依赖关系,它详细讲解了Bean的注册过程,包括... 目录1 控制反转1.1 什么是控制反转1.2 SpringBoot中的控制反转2 Ioc容器对Bea