awk简介

awk 是一种编程语言,由AT&T 贝尔实验室的Alfred Aho,Peter Weinberger 和Brian Kernighan开发一种对文件进行指定规则浏览和抽取信息的工具。当然,有awk必然还要说sed,这俩都是上古神器,功能十分强大,sed和awk各有各的有点,awk在速度上要慢于sed。


awk基本语法

                      awk [options] 'program' file file ...

                      awk [options] 'PATTERN{action}' file file ...

                     -F CHAR:输入分隔符


要点:

(1) 各项目之间使用逗号分隔,而输出时则使用输出分隔符分隔;

(2) 输出的各item可以字符串或数值、当前记录的字段、变量或awk的表达式;数值会被隐式转换为字符串后输出;

(3) print后面item如果省略,相当于print $0;输出空白,使用pirnt "";


例:[root@localhost ~]# awk -F":" '{print $1,$4}' /etc/passwd

 root 0              此处有逗号分隔,结果两个字段会分隔

 bin 1

 daemon 2

    [root@localhost ~]# awk -F":" '{print $1$4}' /etc/passwd

 root0                此处无逗号,结果俩个字段不会分隔

 bin1

 daemon2



    [root@localhost ~]# awk  '{print "" }' /etc/passwd


                        显示空白


1,awk内置变量

             FS:Field Seperator, 输入时的字段分隔符      

             RS:Record Seperator, 输出行分隔符

     OFS: Output Field Seperator, 输出时的字段分隔符;

     ORS: Outpput Row Seperator, 输出时的行分隔符;

             NF:Numbers of Field,字段数

     NR:Numbers of Record, 行数;所有文件的一并计数;

     FNR:行数;各文件分别计数;

     ARGV:数组,保存命令本身这个字符,awk '{print $0}' 1.txt 2.txt,意味着ARGV[0]                    保存awk,

     ARGC: 保存awk命令中参数的个数;

     FILENAME: awk正在处理的当前文件的名称;

例:    

  [root@localhost ~]# awk 'BEGIN{FS=":"}{print $1,$4}' /etc/passwd

root 0

bin 1

daemon 2


[root@localhost ~]# awk 'BEGIN{RS=":"}{print $1,$4}' /etc/passwd

root 

root 

/root 

/bin/bash 

bin 

/bin 

/sbin/nologin 


2,可自定义变量

-v var_name=VALUE  变量名区分字符大小写;

(1) 可以program中定义变量;

(2) 可以命令行中通过-v选项自定义变量;

例:awk -v hn1=$hn '$2==hn1{printf("%s\n,$1")}' hosts

hn1 为awk自定义变量 $hn为shell变量  &!,&2为字段变量


3,awk的printf命令

               使用格式:printf format, item1, item2,...

               

要点:

(1) 要指定format;

(2) 不会自动换行;如需换行则需要给出\n

(3) format用于为后面的每个item指定其输出格式;


format格式的指示符都%开头,后跟一个字符:

%c: 显示字符的ASCII码;

%d, %i: 十进制整数;

%e, %E: 科学计数法显示数值;

%f: 显示浮点数;

%g, %G: 以科学计数法格式或浮点数格式显示数值;

%s: 显示字符串;

%u: 显示无符号整数;

%%: 显示%自身;


修饰符:

#:显示宽度

-:左对齐

+:显示数值的符号

.#: 取值精度

[root@localhost ~]# awk 'BEGIN {printf "%c\n",65}'

 65


[root@localhost ~]# awk -F: '{printf "%-15s %s\n",$1,$3}' /etc/passwd

root            0

bin             1

daemon          2


4,awk输出重定向

print items > output-file

print items >> output-file

print items | command


特殊文件描述符:

/dev/stdin: 标准输入

/dev/stdout: 标准输出

/dev/stderr: 错误输出


例:

[root@localhost ~]# awk '$1 = 100 {print $1 > "output_file"}' file

第一个域的值等于100,则被输入到output_file文件中


5,awk的操作符


算术操作符:

x+y

x-y

x*y

x/y

x**y, x^y

x%y

-x:负值

+x:转换为数值


字符串操作符:连接


赋值操作符:

=

+=

-=

*=

/=

%=

^=

**=


++

--


如果模式自身是=号,要写为/=/


比较操作符:

<

<=

>

>=

==

!=

~:模式匹配,左边的字符串能够被右边的模式所匹配为真,否则为假;

!~:


逻辑操作符:

&&: 与

||:或


条件表达式:

selector?if-true-expression:if-false-expression


例:

[root@localhost ~]awk -F: '{if($1!~/linuxtone/) print }' /etc/passwd

[root@localhost ~]awk -F: '{if($1!="linuxtone") print }' /etc/passwd

[root@localhost ~]awk -F: '{if ($1~/(squid|nagios)/) print}' /etc/passwd

[root@localhost ~]awk -F: '{if($1=="root" && $3=="0") print}' /etc/passwd

[root@localhost ~]awk -F: '{if($3=="0") print }' /etc/passwd


6,模式


(1) Regexp: 格式为/PATTERN/

仅处理被/PATTERN/匹配到的行;

(2) Expression: 表达式,其结果为非0或非空字符串时满足条件;

仅处理满足条件的行;

(3) Ranges: 行范围,此前地址定界,startline, endline

仅处理范围内的行

(4) BEGIN/END: 特殊模式,仅在awk命令的program运行之前(BEGIN)或运行之后                                 (END)执行一次;

(5) Empty:空模式,匹配任意行;


7,控制语句

          if-else

           格式:if (condition) {then body} else {else body}

例:

# awk '{if (NF>=8) {print}}' /etc/inittab

          

          while

   格式:while (condition) {while body}

例:

 # awk '{i=1; while (i<=NF){printf "%s ",$i;i+=2};print ""}' /etc/inittab


          

           do-while循环

           格式:do {do-while body} while (condition)


          

           for循环

   格式:for (variable assignment; condition; iteration process) {for body}

例:   

 # awk '{for (i=1;i<=NF;i+=2){printf "%s ",$i};print ""}' /etc/inittab


           

           case语句

       语法:switch (expression) {case VALUE or /RGEEXP/: statement1;... default: stementN}

   

           

           循环控制

   break

   continue

 


           

            next

    提前结束对本行的处理进而进入下一行的处理;

例:

# awk -F: '{if($3%2==0) next;print $1,$3}' /etc/passwd



8,数组

            

           要遍历数组中的每一个元素,需要使用如下特殊结构:

for (var in array) {for body}

                其var会遍历array的索引;

例:

# netstat -tan | awk '/^tcp/{++state[$NF]}END{for (s in state) {print s,state[s]}}'


          

           删除数组元素:

   delete array[index]


9,awk的内置函数

            

              split(string,array[,fieldsep[,seps]]):

            功能:将string表示的字符串以fieldsep为分隔符进行切片,并切片后的结果保存至array为名的数组中;数组下标从1开始;


              length(string)

      功能:返回给定字串的长度


      substr(string,start[,length])

     功能:从string中取子串,从start为起始位置为取length长度的子串;


例:

    返回字符串数组元素个数
      #  awk 'BEGIN {print split("123#456#789", myarray, "#")}'

     

     sub 只能替换指定域的第一个0

      #   awk 'sub(/0/,2) {print }' /etc/fstab


    按照起始位置及长度返回字符串的一部分
    #  awk 'BEGIN {print substr("www.linuxtone.org",5,9)}' //第5个字符开始,取9个字符。
   #   awk 'BEGIN {print substr("www.linuxtone.org",5)}' //第5个位置开始,取后面的所有.