在架设kafka和elasticsearch集群时,遇到了需要更改系统资源配置的相关问题,即和/etc/security/limits.conf文件相关,同时对于其它类型的服务器来说也会有这些问题,现总结记录如下:

临时系统调优——ulimit命令

ulimit命令用法说明

命令:ulimit
功能:控制shell程序的资源
语法:ulimit [-aHS][-c <core文件上限>][-d <数据节区大小>][-f <文件大 小>][-m <内存大小>][-n <文件数目>][-p <缓冲区大小>][-s <堆栈大小>][-t <CPU时间>][-u <程序数目>][-v <虚拟内存大小>]
说明:ulimit为shell内建指令,可用来控制shell执行程序的资源。
参数:
-a  显示目前资源限制的设定。
-c <core文件上限>  设定core文件的最大值,单位为区块。
-d <数据节区大小>  程序数据节区的最大值,单位为KB。
-f <文件大小>  shell所能建立的最大文件,单位为区块。
-H  设定资源的硬性限制,也就是管理员所设下的限制。
-m <内存大小>  指定可使用内存的上限,单位为KB。
-n <文件数目>  指定同一时间最多可打开的文件数。
-p <缓冲区大小>  指定管道缓冲区的大小,单位512字节。
-s <堆栈大小>  指定堆叠的上限,单位为KB。
-S  设定资源的弹性限制。
-t <CPU时间>  指定CPU使用时间的上限,单位为秒。
-u <进程数目>  用户最多可启动的进程数目。
-v <虚拟内存大小>  指定可使用的虚拟内存上限,单位为KB。

默认情况下资源配置

# ulimit -a
...
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 30518
max locked memory       (kbytes, -l) 64
max memory size         (kbytes, -m) unlimited
open files                      (-n) 1024
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 10240
cpu time               (seconds, -t) unlimited
max user processes              (-u) 1024
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

修改最大进程数

Linux对于每个用户,系统限制其最大进程数。为提高性能,可以根据设备资源情况,设置各linux 用户的最大进程数,如10000

# ulimit -u 10000 

修改最大文件打开数

对于需要做许多 socket 连接并使它们处于打开状态的 Java 应用程序而言,需要设置每个进程可打开的文件数,缺省值是 1024。

# ulimit -n 65535

其它设置

建议设置成无限制(unlimited)的一些重要设置是:

数据段长度

# ulimit -d unlimited

最大内存大小

# ulimit -m unlimited

堆栈大小

# ulimit -s unlimited

CPU 时间

# ulimit -t unlimited

虚拟内存

# ulimit -v unlimited

注意:ulimited 不限制用户可以使用的资源,但本设置对可打开的最大文件数(max open files)
和可同时运行的最大进程数(max user processes)无效。

永久系统调优——/etc/security/limits.conf

/etc/security/limits.conf 是Linux 资源使用配置文件,用来限制用户对系统资源的使用。limits.conf 文件实际是 Linux PAM(插入式认证模块,Pluggable Authentication Modules)中 pam_limits.so 的配置文件,而且只针对于单个会话。

limits.conf的格式

username|@groupname type resource limit
  • username|@groupname:设置需要被限制的用户名,组名前面加@和用户名区别。也可以用通配符'*'来做所有用户的限制。
  • type:有 soft,hard 和 -,soft 指的是当前系统生效的设置值。hard 表明系统中所能设定的最大值。soft 的限制不能比har 限制高。用 - 就表明同时设置了 soft 和 hard 的值。
  • resource:
    • core - 限制内核文件的大小
    • date - 最大数据大小
    • fsize - 最大文件大小
    • memlock - 最大锁定内存地址空间
    • nofile - 打开文件的最大数目
    • rss - 最大持久设置大小
    • stack - 最大栈大小
    • cpu - 以分钟为单位的最多 CPU 时间
    • noproc - 进程的最大数目
    • as - 地址空间限制
    • maxlogins - 此用户允许登录的最大数目
  • limit:具体数值

其它配置

要使 limits.conf 文件配置生效,必须要确保 pam_limits.so 文件被加入到启动文件中。查看 /etc/pam.d/login 文件中有:

...
session required /lib/security/pam_limits.so
...

举例

例如:修改文件描述符大小(65536)

# vim  /etc/security/limits.conf
...
*        soft       nofile    65536
*        hard        nofile    65536