1、Shell cut命令:查找符合条件的行

grep 命令是在文件中提取符合条件的行,也就是分析一行的信息,如果行中包含需要的信息,就把该行提取出来。而如果要进行列提取,就要利用 cut 命令了。

不过要小心,虽然 cut 命令用于提取符合条件的列,但是也要一行一行地进行数据提取。也就是说,先要读取文本的第一行数据,在此行中判断是否有符合条件的字段,然后再处理第二行数据。我们也可以把 cut 成为字段提取命令。命令格式如下:

[root@localhost ~]# cut [选项] 文件名

选项:

  • -f 列号:提取第几列;
  • -d 分隔符:按照指定分隔符分割列;
  • -c 字符范围:不依赖分隔符来区分列,而是通过字符范围(行首为 0)来进行字段提取。"n-"表示从第 n 个字符到行尾;"n-m"表示从第 n 个字符到第 m 个字符;"-m"表示从第 1 个字符到第 m 个字符;


cut 命令的默认分隔符是制表符,也就是 Tab 键,不想对空格符支持得不怎么好。我们先建立一个测试文件,然后看看 cut 命令的作用。

[root@localhost ~]# vi student.txt
ID Name gender Mark
1 Liming M 86
2 Sc M 90
3 Gao M 83

建立学员成绩表,注意这张表中所有的分隔符都是制表符,不能是空格,否则后面的实验会出现问题。

先看看 cut 命令该如何使用:

[root@localhost ~]# cut -f 2 student.txt
#提取第二列的内容
Name
Liming
Sc
Gao


如果想要提取多列呢?将列号直接用","隔开,命令如下:

[root@localhost ~]# cut -f 2,3 student.txt
#提取第二列和第三列的内容
Name gender
Liming M
Sc M
Gao M

cut 命令可以按照字符进行提取。需要注意的是,"8-"代表提取所有行从第 8 个字符到行尾,而"10-20"代表提取所有行的第 10~20 个字符,而"-8"代表提取所有行从行首到第 8 个字符,命令如下:

[root@localhost ~]#cut-c 8- student.txt
#提取取每行从第8个字符到行尾,好像很乱啊,那是因为每行的字符个数不相等
gender Mark
g M 86
90
83

当然,cut 命令也可以手工指定分隔符。例如,我想看看当前 Linux 服务器中有哪些用户、这些用户的 UID 是什么,就可以这样操作:

[root@localhost ~]# cut -d ":" -f 1,3 /etc/passwd
#以":"作为分隔符,提取/etc/passwd文件的第一列和第三列
root:0
bin:1
daemon:2
adm:3
lp:4

cut 命令很方便,不过最主要的问题是对空格识别得不好,很多命令的输出格式中都不是制表符,而是空格符,比如:

[root@localhost ~]# df
#统计分区使用状况
文件系统 1K-块 已用 可用 已用% 挂载点
/dev/sda3 19923216 1848936 17062212 10% /
tmpfs 312672 0 312672 0% /dev/shm
/dev/sda1 198337 26359 161738 15% /boot
/dev/srO 3626176 3626176 0 100% /mnt/cdrom

如果想用 cut 命令截取第一列和第三列,就会出现这样的情况:

[root@localhost ~]# df -h|cut -d""-f 1,3
文件系统
/dev/sda3
tmpfs
/dev/sda1
/dev/sr0

第三列去哪里了?其实因为 df 命令输出的分隔符不是制表符,而是多个空格符,所以 cut 命令会忠实地将每个空格符当作一个分隔符,而这样数,第三列刚好也是空格,所以输出才会是上面这种情况。

总之,cut 命令不能很好地识别空格符。如果想要以空格符作为分隔符,建议使用 awk 命令。

2、Shell printf格式化输出命令

printf 是 awk 的重要格式化输出命令,本节我们先介绍一下 printf 命令如何使用。

需要注意,在 awk 中可以识别 print 输出动作和 printf 输出动作(区别是:print 会在每个输出之后自动加入一个换行符;而 printf 是标准格式输出命令,并不会自动加入换行符,如果需要换行,则需要手工加入换行符),但是在 Bash 中只能识别标准格式化输出命令 printf。所以我们在本小节中介绍的是标准格式化输出命令 printf。

printf 命令格式如下:

[root@localhost ~]# printf '输出类型输出格式' 输出内容

输出类型:

  • %ns:输出字符串。n 是数字,指代输出几个字符;
  • %ni:输出整数。n 是数字,指代输出几个数字‘’
  • %m.nf: 输出浮点数。m 和 n 是数字,指代输出的整数位数和小数位数。如 %8.2f 代表共输出 8 位数,其中 2 位是小数,6 位是整数;


输出格式:

  • \a: 输出警告声音;
  • \b:输出退格键,也就是 Backspaced 键;
  • \f:清除屏幕;
  • \n:换行;
  • \r:回车,也就是 Enter 键;
  • \t:水平输出退格键,也就是 Tab 键;
  • \v:垂直输出退格键,也就是 Tab 键;

为了演示 printf 命令,我们需要修改一下刚刚 cut 命令使用的 student.txt 文件。文件内容如下:

[root@localhost ~]# vi student.txt
ID Name PHP Linux MySQL Average
1 Liming 82 95 86 87.66
2 Sc 74 96 87 85.66
3 Gao 99 83 93 91.66

我们使用 printf 命令输出这个文件的内容,如下:

[root@localhost ~]# printf '%s' $(cat student.txt)
IDNamegenderPHPUnuxMySQl_Average1LjmingM82 958687.662ScM74968785.663GaoM998393 91.66
[root@localhost ~]#

输出结果十分混乱。这就是 printf 命令,如果不指定输出格式,则会把所有输出内容连在一起输出。其实文本的输出本身就是这样的,cat 等文本输出命令之所以可以按照格式漂亮地输出,那是因为 cat 命令已经设定了输出格式。

那么,为了用 printf 输出合理的格式,应该这样做:

[root@localhost ~]# printf '%s\t %s\t %s\t %s\t %s\t %s\t\n' $(cat student.txt)
#注意:在printf命令的单引号中只能识别格式输出符号,而手工输入的空格是无效的
ID Name PHP Linux MySQL Average
1 Liming 82 95 86 87.66
2 Sc 74 96 87 85.66
3 Gao 99 83 93 91.66

再强调一下:在 printf 命令的单引号中输入的任何空格都不会反映到格式输出中,只有格式输出符号才能影响 printf 命令的输出结果。

解释一下这个命令:因为我们的文档有6列,所以使用 6 个"%s"代表这 6 列字符串,每个字符串之间用"\t"分隔;最后还要加入"\n",使得每行输出都换行,否则这些数据还是会连成一行的。

如果不想把成绩当成字符串输出,而是按照整型和浮点型输出,则要这样做:

[root@localhost ~]# printf '%i\t %s\t %i\t %i\t %i\t %8.2f\t\n'\
$(cat student.txt | grep -v Name)
1 Liming 82 95 86 87.66
2 Sc 74 96 87 85.66
3 Gao 99 83 93 91.66

先解释"cat student.txt|grep -v Name"这条命令。这条命令会把第一行标题取消,剩余的内容才用 printf 格式化输出。在剩余的内容中,第 1、3、4、5 列为整型,所以用"%i"输出;而第 2 列是字符串,所以用"%s"输出;而第 6 列是小数,所以用"%8.2f"输出。"%8.2f"代表可以输出 8 位数,其中有 2 位是小数,有 6 位是整数。

printf 命令是 awk 中重要的输出动作,不过 awk 中也能识别 print 动作,区别刚刚已经介绍了,当然稍后我们还会举例来说明一下这两个动作的区别。注意:在 Bash 中只有 printf 命令。另外,printf 命令只能格式化输出具体数据,不能直接输出文件内容或使用管道符,所以 printf 命令的格式还是比较特殊的。

3、Shell awk命令详解(格式+使用方法)

awk 命令的基本格式如下:

[root@localhost ~]# awk [-F|-f|-v] '条件1 {动作1.1;动作1.1} 条件 2 {动作 2} …' 文件名

 

条件(Pattern):
一般使用关系表达式作为条件。这些关系表达式非常多,具体参考表1。

表 1 awk支持的主要条件类型

条件类型

条 件

说 明

awk保留字

BEGIN

在 awk 程序一开始,尚未读取任何数据之前执行。BEGIN 后的动作只在程序开始时执行一次

awk保留字

END

在 awk 程序处理完所有数据,即将结束时执行?END 后的动作只在程序结束时执行一次

关系运算符

>

大于

<

小于

>=

大于等于

<=

小于等于

==

等于。用于判断两个值是否相等。如果是给变童赋值,则使用"=”

!=

不等于

A~B

判断字符串 A 中是否包含能匹配 B 表达式的子字符串

A!~B

判断字符串 A 中是否不包含能匹配 B 表达式的子字符串

正则表达式

/正则/

如果在“//”中可以写入字符,则也可以支持正则表达式

例如:
x>10:判断变量 x 是否大于10;
x == y:判断变量 x 是否等于变量 y;
A~B:判断字符串 A 中是否包含能匹配 B 表达式的子字符串;
A!~B:判断字符串 A 中是否不包含能匹配 B 表达式的子字符串;

动作(Action):

  • 格式化输出;
  • 流程控制语句;

我们先来学习 awk 的基本用法,也就是只看看格式化输出动作是干什么的。看看这个例子:

[root@localhost ~]# awk '{printf $2 "\t" $6 "\n"}' student.txt
#输出第二列和第六列的内容
Name Average
Liming 87.66
Sc 85.66
Gao 91.66

在这个例子中没有设定任何的条件类型,所以这个文件中的所有内容都符合条件,动作会无条件执行。动作是格式化输出 printf,"$2"和"$6"分别代表第二个字段和第六个字段,所以这条 awk 命令会列出 student.txt 文件的第二个字段和第六个字段。

虽然都是截取列的命令,但是 awk 命令比 cut 命令智能多了,cut 命令是不能很好地识别空格作为分隔符的;而对于 awk 命令来说,只要分隔开,不管是空格还是制表符,都可以识别。比如刚刚截取 df 命令的结果时,cut 命令已经力不从心了,我们来看看 awk 命令,命令如下:

[root@localhost ~]#df -h | awk '{print $1 "\t" $3}'
文件系统 已用
/dev/sda3 1.8G
tmpfs 0
/dev/sda1 26M
/dev/sr0 3.5G

在这两个例子中,我们分别使用了 printf 动作和 print 动作。发现了吗?如果使用 printf 动作,就必须在最后加入"\n",因为 printf 只能识别标准输出格式;如果我们不使用"\n",它就不会换行。而 print 动作则会在每次输出后自动换行,所以不用在最后加入"\n"。

awk的条件

我们来看看 awk 可以支持什么样的条件类型吧。awk 支持的主要条件类型如表 1 所示。

1) BEGIN

BEGIN 是 awk 的保留字,是一种特殊的条件类型。BEGIN 的执行时机是"在 awk 程序一开始,尚未读取任何数据之前"。

一旦 BEGIN 后的动作执行一次,当 awk 开始从文件中读入数据时,BEGIN 的条件就不再成立,所以 BEGIN 定义的动作只能被执行一次。例如:

[root@localhost ~]# awk 'BEGIN{printf "This is a transcript\n"}
{printf $2 "\t" $6 "\n"}' student.txt
#awk命令只要检测不到完整的单引号就不会执行,所以这条命令的换行不用加入"\",就是一行命令
#这里定义了两个动作
#第一个动作使用BEGIN条件,所以会在读入文件数据前打印"这是一张成绩单"(只会执行一次)
#第二个动作会打印文件的第二个字段和第六个字段
This is a transcript
Name Average
Liming 87.66
Sc 85.66
Gao 91.66

2) END

END 也是 awk 的保留字,不过刚好和 BEGIN 相反。END 是在 awk 程序处理完所有数据,即将结束时执行的。END 后的动作只在程序结束时执行一次。例如:

[root@localhost ~]# awk 'END{printf "The End \n"}
{printf $2 "\t" $6 "\n"}' student.txt
#输出结尾输入"The End",这并不是文档本身的内容,而且只会执行一次
Name Average
Liming 87.66
Sc 85.66
Gao 91.66
The End

3)关系运算符

举几个例子看看关系运算符。假设我想看看平均成绩大于等于 87 分的学员是谁,就可以这样输入命令:

【例 1】

[root@localhost ~]# cat student.txt | grep -v Name |awk'$6 >= 87 {printf $2'\n"}'
#使用cat输出文件内容,用grep取反包含"Name"的行
#判断第六个字段(平均成绩)大于等于87分的行,如果判断式成立,则打印第六列(学员名)
Liming
Gao

在加入了条件之后,只有条件成立,动作才会执行;如果条件不满足,则动作不执行。通过这个实验,大家可以发现,虽然 awk 是列提取命令,但是也要按行来读入。

这条命令的执行过程是这样的:

  1. 如果有 BEGIN 条件,则先执行 BEGIN 定义的动作。
  2. 如果没有 BEGIN 条件,则读入第一行,把第一行的数据依次赋予 $0、$1、$2 等变量。其中,$0 代表此行的整体数据,$1 代表第一个字段,$2 代表第二个字段。
  3. 依据条件类型判断动作是否执行。如果条件符合,则执行动作;否则读入下一行激据。如果没有条件,则每行都执行动作。
  4. 读入下一行数据,重复执行社步骤。

如果我想看看 Sc 用户的平均成绩呢?

【例 2】

[root@localhost ~]# awk'$2 -/Sc/ {printf $6 "\n"}' student.txt
#如果第二个字段中包含"Sc"字符,则打印第六个字段
85.66

这里要注意,在 awk 中,只有使用"//"包含的字符串,awk 命令才会査找。也就是说,字符串必须用"//"包含,awk 命令才能正确识别。

4) 正则表达式

如果想让 awk 识别字符串,则必须使用"//"包含,例如:

[root@localhost ~]# awk '/Liming/ {print}' student.txt
#打印Liming的成绩
1 Liming 82 95 86 87.66

当使用 df 命令査看分区的使用情况时,如果我只想査看真正的系统分区的使用情况,而不想査看光盘和临时分区的使用情况,则可以这样做:

[root@localhost ~]# df -h | awk '/sda[0-9]/ {printf $1 '\t\ $5 "\n"}'
#查询包含"sda数字"的行,并打印第一个字段和第五个字段
/dev/sda3 10%
/dev/sda1 15%

awk流程制

之所以称为 awk 编程,是因为在 awk 中允许定义变量,允许使用运算符,允许使用流程控制语句和定义函数。这样就使得 awk 编程成了一门完整的程序语言,当然难度也比普通的命令要大得多。

所有语言的流程控制都非常类似,在这里只举一些例子,用来演示 awk 流程控制的作用。如果你现在看不懂这些例子,则可以等学习完 Bash 流程控制之后,回过头来学习。

我们再利用 studert.txt 文件做一个练习,后面的使用比较复杂,我们再看看这个文件的内容,如下:

[root@localhost ~]# cat student.txt
ID Name PHP Linux MySQL Average
1 Liming 82 95 86 87.66
2 Sc 74 96 87 85.66
3 Gao 99 83 93 91.66

先来看看如何在 awk 中定义变量与调用变量的值。假设我想统计 PHP 成绩的总分,就应该这样做:

[root@localhost ~]# awk'NR==2{php1 =$3}
NR==3{php2=$3}
NR==4{php3= $3;totle=php1+php2+php3;print "totle php is" totle}' student.txt
#统计PHP成绩的总分
totle php is 255

这条命令有点复杂了,我们解释一下:

  • "NR==2{php1=$3}"(条件是NR==2,动作是php=$3) 是指如果输入数据是第二行(第一行是标题行),就把第二行的第三个字段的值赋予变量"php1"。
  • "NR==3{php2=$3}"是指如果输入数据是第三行,就把第三行的第三个字段的值赋予变量"php2"。NR==4{php3=$3;totle=php1+php2+php3;print"totle php is"totle}"("NR==4"是条件,后面{}中的都是动作)是指如果输入数是第四行,就把第四行的第三个字段的值赋予变量"php3";然后定义变量 totle 的值是"php1+php2+php3";最后输出"totle php is"关键字,后面加变量 totle 的值。


在awk编程中,因为命令语句非常长,所以在输入格式时需要注意以下内容:

  • 多个条件{动作}可以用空格分隔,也可以用回车分隔。
  • 在一个动作中,如果需要执行多条命令,则需要用分隔,或用回车分隔。
  • 在awk中,变量的赋值与调用都不需要加入"$"符号。
  • 在条件中判断两个值是否相同,请使用"==",以便和变量赋值进行区分。

再看看如何实现流程控制。假设 Linux 成绩大于 90 分,就非常棒,命令如下:

[root@localhost ~]# awk'{if (NR>=2)
{if ($4>90) printf $2" is a good man!\n"}}' student.txt
#程序中有两个if判断,第一个判断行号大于2,第二个判断Linux成绩大于90分
Liming is a good man!
Sc is a good man!

其实在 awk 中,if 判断语句完全可以直接利用 awk 自带的条件来取代,刚刚的脚本可以改写成这样:

[root@localhost ~]# awk' NR>=2 {test=$4}
test>90 {printf $2" is a good man!\n"}' student.txt
#先判断行号,如果大于2,就把第四个字段的值赋予变量test
#再判断成绩,如果test的值大于90分,就打印好男人
Liming is a good man!
Sc is a good man!