概要
本文覆盖RabbitMQ内存阈值和分页设置,在64位和32位系统上运行节点,以及一些其他相关主题。
内存阈值:它是什么以及如何工作
RabbitMQ服务在启动时检查机器的内存,执行命令 rabbitmqctl set_vm_memory_high_watermark fraction. 默认情况,RabbitMQ服务使用了可用内存大小的40%,它触发一个内存警告并阻塞所有发布消息的连接。一旦清除内存告警,系统将恢复服务。
默认情况,内存预警阈值是系统安装内存大小的40%,但这个并不表示RabbitMQ服务不能使用超过40%的内存,这只是发布者会被限制。Erlang垃圾收集器甚至可以使用超过一倍的内存,如80%,强烈建议启用操作系统内存交换页。
32位架构倾向于每个进程设置2GB内存限制,64位架构系统限制每个进程256TB,64位Windows系统进一步限制位8TB。然而,请注意,即使在64位的操作系统下,32位进程通常也只有2GB内存的限制。
配置内存阈值
可以通过修改配置文件来控制内存阈值,以下例子将阈值设置为默认值0.4
\# new style config format, recommended
vm_memory_high_watermark.relative = 0.4
这个默认值0.4表示可用内存的40%或者可用虚拟地址空间的40%,以较小者为准。如在一个有4GB内存的32位系统上,40%的内存是1.6GB,但是32位系统限制内存是2GB,所以阈值实际上是2GB的40%(820MB)。
或者可以使用绝对值来设置内存阈值,如下所示(1024MB):
vm_memory_high_watermark.absolute = 1073741824
使用内存单位的如下:
vm_memory_high_watermark.absolute = 1024MiB
如果限制值大于机器内存或者可用虚拟地址空间,则阈值以较小的为准。
当RabbitMQ服务启动时,内存设置日志输出如下:
2019-06-10 23:17:05.976 [info] <0.308.0> Memory high watermark set to 1024 MiB (1073741824 bytes) of 8192 MiB (8589934592 bytes) total
还可以使用 rabbitmq-diagnostics memory_breakdown 和 rabbitmq-diagnostics status 命令查下内存限制值。
在服务运行期间,阈值可以被修改的,使用如下命令:
rabbitmqctl set_vm_memory_high_watermark <fraction>
或者:
rabbitmqctl set_vm_memory_high_watermark absolute <memory_limit>
例如:
rabbitmqctl set_vm_memory_high_watermark 0.6
rabbitmqctl set_vm_memory_high_watermark absolute "4G"
当使用绝对值模式时,可以使用下列的内存单位:
- M, MiB 兆字节(2^20字节), 二进制mebibytes,适合机器
- MB, 兆字节(10^6字节),十进制megabytes,适合人类理解
- G,GiB 吉字节(2^30字节),二进制gibibytes
- GB, 吉字节(10^9字节),十进制gigabytes
这两种命令都是立即生效,直至节点重启。若要使设置的参数在服务重启仍能生效,则需要修改配置文件。
在可热插拔内存的系统上,如果执行以上命令,虽然没有改变阈值,但是由于查下了系统内存总量,这导致了内存限制是仍可能发生变化的。
停止所有发布
当阈值或者绝对限制值设置位0时,它会立即关闭内存报警,从而阻止所有生产者连接,这方法对于想要全局停用发布还是很有用的。
rabbitmqctl set_vm_memory_high_watermark 0
限制地址空间
当在64位操作系统(或具有PAE的32位操作系统)中的32位Erlang VM内运行RabbitMQ服务时,可寻址内存受到限制,服务器检测到并记录如下日志:
2018-11-22 10:44:33.654 [warning] Only 2048MB of 12037MB memory usable due to limited address space.
内存预警机制并不是完美的,尽管停止发布会阻止内存的进一步使用,但其他事情仍然可能持续增加内存使用。通常这种情况发生时,物理内存耗尽后操作系统开始换页。但若使用了有限制的内存,则虚拟机会终止或者操作系统的内存机制也会将其终止。
因此,强烈建议在64位的操作系统和64位的Erlang上运行RabbitMQ服务。
配置换页阈值
在RabbitMQ达到高水位线或者阻塞发布者之前,它将尝试让队列将其内容分页到磁盘来释放内存。持久性和暂时性消息会被调出(持久性消息已经在磁盘上将会被从内存调出)。默认情况下,当到达高水位线的50%时就会发生这种情况。若要更改此值,修改配置vm_memory_high_watermark_paging_ratio,如下所示:
vm_memory_high_watermark_paging_ratio = 0.75
vm_memory_high_watermark.relative = 0.4
上述配置以使用的内存的30%开始分页,以40%阻塞发布者。
可以将vm_memory_high_watermark_paging_ratio设置为大于1.0的值。在这种情况下,队列不会将其内容分页到光盘。如果这导致内存警报关闭,那么生产者将被阻止,如上所述。
未识别平台
如果RabbitMQ服务器无法检测到它正在运行的操作系统,它将在日志文件中附加警告。然后假设安装了1GB以上的RAM:
2018-11-22 10:44:33.654 [warning] Unknown total memory size for your OS {unix,magic_homegrown_os}. Assuming memory size is 1024MB.
在这种情况下,vm_memory_high_watermark配置值用于缩放假定的1GB RAM。由于vm_memory_high_watermark的默认值设置为0.4,RabbitMQ的内存阈值设置为410MB,因此每当RabbitMQ使用超过410MB的内存时,它都会限制生产者。因此,当RabbitMQ无法识别您的平台时,如果您实际安装了8GB RAM,并且您希望RabbitMQ在服务器使用3GB以上的内存时限制生产者,请将vm_memory_high_watermark设置为3。