iostat查看linux硬盘IO性能

[root@serverweb001~]# iostat -d -x -k 1 10

Linux 3.10.0-229.1.2.el7.x86_64 (s3-edge-005)   03/14/2017  _x86_64_   (1 CPU)


Device: rrqm/s  wrqm/s   r/s   w/s rkB/s  wkB/s avgrq-sz avgqu-sz  await r_await w_await  svctm  %util

xvda      0.00    1.05  0.02  3.00  0.40  54.39    36.26     0.02   7.16   10.04    7.14   1.50   0.45

Device: rrqm/s  wrqm/s   r/s   w/s rkB/s  wkB/s avgrq-sz avgqu-sz  await r_await w_await  svctm  %util

xvda      0.00    0.00  0.00  1.06  0.00   8.51    16.00     0.00   2.00    0.00    2.00   2.00   0.21

Device: rrqm/s  wrqm/s   r/s   w/s rkB/s  wkB/s avgrq-sz avgqu-sz  await r_await w_await  svctm  %util

xvda      0.00    0.00  0.00  0.00  0.00   0.00     0.00     0.00   0.00    0.00    0.00   0.00   0.00

Device: rrqm/s  wrqm/s   r/s   w/s rkB/s  wkB/s avgrq-sz avgqu-sz  await r_await w_await  svctm  %util

xvda      0.00   13.98  0.00  4.30  0.00  73.12    34.00     0.02   3.50    0.00    3.50   2.25   0.97

Device: rrqm/s  wrqm/s   r/s   w/s rkB/s  wkB/s avgrq-sz avgqu-sz  await r_await w_await  svctm  %util

xvda      0.00    0.00  0.00  0.00  0.00   0.00     0.00     0.00   0.00    0.00    0.00   0.00   0.00


名字解释:

rrqm/s:每秒进行merge的读操作数目。即delta(rmerge)/s

wrqm/s:每秒进行merge的写操作数目。即delta(wmerge)/s

r/s:每秒完成的读I/O设备次数。即delta(rio)/s

w/s:每秒完成的写I/O设备次数。即delta(wio)/s

rsec/s:每秒读扇区数。即delta(rsect)/s

wsec/s:每秒写扇区数。即delta(wsect)/s

rkB/s:每秒读K字节数。是rsect/s的一半,因为每扇区大小为512字节。(需要计算)

wkB/s:每秒写K字节数。是wsect/s的一半。(需要计算)

avgrq-sz:平均每次设备I/O操作的数据大小(扇区)。delta(rsect+wsect)/delta(rio+wio)

avgqu-sz:平均I/O队列长度。即delta(aveq)/s/1000(因为aveq的单位为毫秒)。

await:平均每次设备I/O操作的等待时间(毫秒)。即delta(ruse+wuse)/delta(rio+wio)

svctm:平均每次设备I/O操作的服务时间(毫秒)。即delta(use)/delta(rio+wio)

%util:一秒中有百分之多少的时间用于I/O操作,或者说一秒中有多少时间I/O队列是非空的。即delta(use)/s/1000(因为use的单位为毫秒)

如果%util接近100%,说明产生的I/O请求太多,I/O系统已经满负荷,该磁盘

可能存在瓶颈。

idle小于70%IO压力就较大了,一般读取速度有较多的wait.

同时可以结合vmstat查看查看b参数()和wa参数()


另外还可以参考

svctm一般要小于await(因为同时等待的请求的等待时间被重复计算了),svctm的大小一般和磁盘性能有关,CPU/内存的负荷也会对其有影响,请求过多也会间接导致svctm的增加。await的大小一般取决于服务时间(svctm)以及I/O队列的长度和I/O请求的发出模式。如果svctm比较接近await,说明I/O几乎没有等待时间;如果await远大于svctm,说明I/O队列太长,应用得到的响应时间变慢,如果响应时间超过了用户可以容许的范围,这时可以考虑更换更快的磁盘,调整内核elevator算法,优化应用,或者升级CPU。

队列长度(avgqu-sz)也可作为衡量系统I/O负荷的指标,但由于avgqu-sz是按照单位时间的平均值,所以不能反映瞬间的I/O洪水。


别人一个不错的例子.(I/O系统vs.超市排队)

举一个例子,我们在超市排队checkout时,怎么决定该去哪个交款台呢?首当是看排的队人数,5个人总比20人要快吧?除了数人头,我们也常常看看前面人购买的东西多少,如果前面有个采购了一星期食品的大妈,那么可以考虑换个队排了。还有就是收银员的速度了,如果碰上了连钱都点不清楚的新手,那就有的等了。另外,时机也很重要,可能5分钟前还人满为患的收款台,现在已是人去楼空,这时候交款可是很爽啊,当然,前提是那过去的5分钟里所做的事情比排队要有意义(不过我还没发现什么事情比排队还无聊的)。

I/O系统也和超市排队有很多类似之处:

r/s+w/s类似于交款人的总数

平均队列长度(avgqu-sz)类似于单位时间里平均排队人的个数

平均服务时间(svctm)类似于收银员的收款速度

平均等待时间(await)类似于平均每人的等待时间

平均I/O数据(avgrq-sz)类似于平均每人所买的东西多少

I/O操作率(%util)类似于收款台前有人排队的时间比例。

我们可以根据这些数据分析出I/O请求的模式,以及I/O的速度和响应时间。

下面是别人写的这个参数输出的分析

#iostat-x1
avg-cpu:%user%nice%sys%idle
16.240.004.3179.44
Device:rrqm/swrqm/sr/sw/srsec/swsec/srkB/swkB/savgrq-szavgqu-szawaitsvctm%util
/dev/cciss/c0d0
0.0044.901.0227.558.16579.594.08289.8020.5722.3578.215.0014.29
/dev/cciss/c0d0p1
0.0044.901.0227.558.16579.594.08289.8020.5722.3578.215.0014.29
/dev/cciss/c0d0p2
0.000.000.000.000.000.000.000.000.000.000.000.000.00

上面的iostat输出表明秒有28.57次设备I/O操作:总IO(io)/s=r/s(读)+w/s(写)=1.02+27.55=28.57(次/秒)其中写操作占了主体(w:r=27:1)。

平均每次设备I/O操作只需要5ms就可以完成,但每个I/O请求却需要等上78ms,为什么?因为发出的I/O请求太多(每秒钟约29个),假设这些请求是同时发出的,那么平均等待时间可以这样计算:

平均等待时间=单个I/O服务时间*(1+2+…+请求总数-1)/请求总数

应用到上面的例子:平均等待时间=5ms*(1+2+…+28)/29=70ms,和iostat给出的78ms的平均等待时间很接近。这反过来表明I/O是同时发起的。

每秒发出的I/O请求很多(约29个),平均队列却不长(只有2个左右),这表明这29个请求的到来并不均匀,大部分时间I/O是空闲的。

一秒中有14.29%的时间I/O队列中是有请求的,也就是说,85.71%的时间里I/O系统无事可做,所有29个I/O请求都在142毫秒之内处理掉了。

delta(ruse+wuse)/delta(io)=await=78.21=>delta(ruse+wuse)/s=78.21*delta(io)/s=78.21*28.57=2232.8,表明每秒内的I/O请求总共需要等待2232.8ms。所以平均队列长度应为2232.8ms/1000ms=2.23,而iostat给出的平均队列长度(avgqu-sz)却为22.35,为什么?!因为iostat中有bug,avgqu-sz值应为2.23,而不是22.35。


常用命令组合及解释:

iostat -d -k 1 10        #查看TPS和吞吐量信息(磁盘读写速度单位为KB)

[root@serverweb01 ~]# iostat -d -k 1 10

Linux 3.10.0-229.1.2.el7.x86_64 (s3-edge-005) 03/14/2017  _x86_64_  (1 CPU)


Device:      tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn

xvda        3.02         0.40        54.39   21878481 3007974656


Device:      tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn

xvda       18.09         0.00       374.47          0        352


Device:      tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn

xvda        1.08         0.00         4.30          0          4


Device:      tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn

xvda        0.00         0.00         0.00          0          0


Device:      tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn

xvda        0.00         0.00         0.00          0          0


Device:      tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn

xvda        0.00         0.00         0.00          0          0


Device:      tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn

xvda        7.37         0.00       101.05          0         96


Device:      tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn

xvda        0.00         0.00         0.00          0          0


Device:      tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn

xvda        0.00         0.00         0.00          0          0


Device:      tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn

xvda       18.95         0.00       370.53          0        352


[root@serverweb01 ~]# 

iostat -d -m 2          #查看TPS和吞吐量信息(磁盘读写速度单位为MB)

iostat -d -x -k 1 10      #查看设备使用率(%util)、响应时间(await)

iostat -c 1 10          #查看cpu状态


例如:查看CPU状态

[root@serverweb01 ~]# iostat -c 1 10

Linux 3.10.0-229.1.2.el7.x86_64 (s3-edge-005)   03/14/20

avg-cpu:  %user   %nice %system %iowait  %steal   %idle

       0.88    0.00    1.51    0.36    0.30   96.95

avg-cpu:  %user   %nice %system %iowait  %steal   %idle

       5.26    0.00    6.32    0.00    1.05   87.37

avg-cpu:  %user   %nice %system %iowait  %steal   %idle

       6.45    0.00    4.30    2.15    1.08   86.02

avg-cpu:  %user   %nice %system %iowait  %steal   %idle

       9.57    0.00    3.19    0.00    1.06   86.17

avg-cpu:  %user   %nice %system %iowait  %steal   %idle

       7.45    0.00    4.26    1.06    0.00   87.23

avg-cpu:  %user   %nice %system %iowait  %steal   %idle

       4.21    0.00    5.26    0.00    1.05   89.47

avg-cpu:  %user   %nice %system %iowait  %steal   %idle

       6.38    0.00    5.32    0.00    1.06   87.23

avg-cpu:  %user   %nice %system %iowait  %steal   %idle

       5.32    0.00    4.26    0.00    1.06   89.36

avg-cpu:  %user   %nice %system %iowait  %steal   %idle

       8.51    0.00    4.26    1.06    1.06   85.11

avg-cpu:  %user   %nice %system %iowait  %steal   %idle

       9.47    0.00    7.37    0.00    1.05   82.11

[root@serverweb01 ~]# 


例如:查看

iostat -d -k 1 |grep sda10

Device:            tps    kB_read/s    kB_wrtn/s    kB_read    kB_wrtn

sda10            60.72        18.95        71.53  395637647 1493241908

sda10           299.02      4266.67       129.41       4352        132

sda10           483.84      4589.90      4117.17       4544       4076

sda10           218.00      3360.00       100.00       3360        100

sda10           546.00      8784.00       124.00       8784        124

sda10           827.00     13232.00       136.00      13232        136


上面看到,磁盘每秒传输次数平均约400;每秒磁盘读取约5MB,写入约1MB。


iostat -d -x -k 1

Device:    rrqm/s wrqm/s   r/s   w/s  rsec/s  wsec/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await  svctm  %util

sda          1.56  28.31  7.84 31.50   43.65    3.16    21.82     1.58     1.19     0.03    0.80   2.61  10.29

sda          1.98  24.75 419.80  6.93 13465.35  253.47  6732.67   126.73    32.15     2.00    4.70   2.00  85.25

sda          3.06  41.84 444.90 54.08 14204.08 2048.98  7102.04  1024.49    32.57     2.10    4.21   1.85  92.24


可以看到磁盘的平均响应时间<5ms,磁盘使用率>80。磁盘响应正常,但是已经很繁忙了。