Awk语法:

   awk [options] –f scriptfile var value file(s)

    awk [options] ‘script’ var=value file(s)

    其中‘script’ 由pattern{action}组成,在script前后还有BEGIN 和END

 

    pattern包括以下几种

u  正则表达式 (例 /^a/{action})

 

u  关系表达式(例’$1 > 5’或’$1 == “abc”’用运算符表中的关系运算符进行操作)

 

u  模式匹配表达式(用~匹配和~!不匹配,例‘awk '$1~/^M/ {print $0}' file )

 

u  模式,模式(指定一个行的范围,可以正则或关系表达式。例$1 == "M.Tansley",$1 == "J.Lulu" {print $0}' file 或awk '/^M/,/^J/ {print $0}' file)

   

    BEGIN(指定在第一条记录执行之前进行的一些操作,一般用于设置变量,打印表头等)
        这个动作块在awk处理任何输入文件之前执行。所以它可以在没有任何输入的情   况下进行测试。它通常用来改变内建变量的值,如OFS,RS和FS等,以及打印标题。如: awk 'BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print $1,$2,$3} test。上式表示,在处理输入文件以前,域分隔符(FS)被设为冒号,输出文件分隔符(OFS)被设置为制表符,输出记录分隔符(ORS)被设置为两个换行符。awk 'BEGIN{print "TITLE TEST"}只打印标题。

 

    END (最后一条记录执行完成后进行的一些操作,可用于输出结果或表尾等)

   

    action由一个或多个命令、函数、表达式组成,它们之间由;号隔开。主要有四部分:1.变量或数组赋值 2.输出命令 3.内置函数 4.流程控制

 

 

awk的环境变量

      FS 输入字段分隔符,默认是任何空格

      OFS 输出字段分隔符,默认是任何空格

      RS 输入行分隔符,默认是回车

      ORS 输出行分隔符,默认是回车

      NF当前行,当前记录的字段数

      NR 当前记录所在的行数,到最后一行的时候即为总行数(所有文件)

      FNR 同上(单文件,当前文件,当只有一个文件时,同NR)

      $n 当前记录第n个字段变量

      $0 当前行变量

      FILENAME 当前文件名

      ARGIND 命令行中当前文件的位置(从0开始算)

      ARGC 命令行参数的数目

 

awk编程中的变量

  • awk可以在命令行中给变量赋值,然后将这个变量传输给awk脚本。如 awk -f  awkscript test="ok",上式的test是自定义变量,被赋值为ok。在awk脚本中,这些变量使用起来就象是在脚本中建立的一样。

    注意,如果想在BEGIN中使用该变量,需要加上-v参数,这样 awk –f awkscript –v test="ok"。

  • 域变量也可被赋值和修改,如 awk '{$2 = 100 + $1; print $2}' test

    注意,字符串一定要用双引号。

 

 

awk的运算符

    = += -= *= /= %= ^= **= 赋值

    ?: C条件表达式

       || 逻辑或

       && 逻辑与

       ~ ~! 匹配正则表达式和不匹配正则表达式

       < <= > >= != == 关系运算符

       + - 加,减

       * / & 乘,除与求余

       + - ! 一元加,减和逻辑非

       ^ *** 求幂

       ++ -- 增加或减少,作为前缀或后缀    

       $ 字段引用    

 

 

awk中记录和域的概念

    记录:awk把每一个以换行符分隔开的行当一个记录,$0指的是一条记录。变量NR:一个计数器,每处理完一条记录,NR的值就增加1。如$ awk '{print NR,$0}' test将输出test文件中所有记录,并在记录前显示记录号

    记录中每个单词称做“域”,默认情况下以空格或tab分隔。awk可跟踪域的个数,并在内建变量NF中保存该值。如$ awk '{print $1,$3}' test将打印test文件中第一和第三个以空格分开的列(域)
内建变量FS保存输入域分隔符的值,默认是空格或tab。我们可以通过-F命令行选项修改FS的值。如$ awk -F: '{print $1,$5}' test将打印以冒号为分隔符的第一,第五列的内容。
    可以同时使用多个域分隔符,这时应该把分隔符写成放到方括号中,如$awk -F'[:\t]' '{print $1,$3}' test,表示以空格、冒号和tab作为分隔符。
    输出域的分隔符默认是一个空格,保存在OFS中。如$ awk -F: '{print $1,$5}' test,$1和$5间的逗号就是OFS的值。

 

 

awk的重定向和管道

n  awk可使用shell的重定向符进行重定向输出,如:$ awk '$1 = 100 {print $1 > "output_file" }' test。上式表示如果第一个域的值等于100,则把它输出到output_file中。也可以用>>来重定向输出,但不清空文件,只做追加操作。

n  输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件获得输入。它负责从输入获得下一行的内容,并给NF,NR和FNR等内建变量赋值。如果得到一条记录,getline函数返回1,如果到达文件的末尾就返回0,如果出现错误,例如打开文件失败,就返回-1。如:

 

n  awk 'BEGIN{ "date" | getline d; print d}' test。执行linux的date命令,并通过管道输出给getline,然后再把输出赋值给自定义变量d,并打印它。

n  awk 'BEGIN{"date" | getline d; split(d,mon); print mon[2]}' test。执行shell的date命令,并通过管道输出给getline,然后getline从管道中读取并将输入赋值给d,split函数把变量d转化成数组mon,然后打印数组mon的第二个元素。

n  awk 'BEGIN{while( "ls" | getline) print}',命令ls的输出传递给geline作为输入,循环使getline从ls的输出中读取一行,并把它打印到屏幕。这里没有输入文件,因为BEGIN块在打开输入文件前执行,所以可以忽略输入文件。

n  awk 'BEGIN{printf "What is your name?"; getline name < "/dev/tty" } $1 ~name {print "Found" name on line ", NR"."} END{print "See you," name "."} test。在屏幕上打印”What is your name?",并等待用户应答。当一行输入完毕后,getline函数从终端接收该行输入,并把它储存在自定义变量name中。如果第一个域匹配变量name的值,print函数就被执行,END块打印Seeyou和name的值。

n  awk 'BEGIN{while (getline < "/etc/passwd" > 0) lc++; print lc}'。awk将逐行读取文件/etc/passwd的内容,在到达文件末尾前,计数器lc一直增加,当到末尾时,打印lc的值。注意,如果文件不存在,getline返回-1,如果到达文件的末尾就返回0,如果读到一行,就返回1,所以命令 while (getline < "/etc/passwd")在文件不存在的情况下将陷入无限循环,因为返回-1表示逻辑真。

n  可以在awk中打开一个管道,且同一时刻只能有一个管道存在。通过close()可关闭管道。如: awk '{print $1, $2 | "sort" }' test END {close("sort")}。awd把print语句的输出通过管道作为linux命令sort的输入,END块执行关闭管道操作。

n  system函数可以在awk中执行linux的命令。如:$ awk 'BEGIN{system("clear")}'

 

getline函数说明:

    getline从整体上来说,应这么理解它的用法:

    当其左右无重定向符 | 或 < 时,getline作用于当前文件,读入当前文件的第一行给其后跟的变量 var 或$0(无变量);应该注意到,由于awk在处理getline之前已经读入了一行,所以getline得到的返回结果是隔行的。

     当其左右有重定向符 | 或 < 时,getline则作用于定向输入文件,由于该文件是刚打开,并没有被awk读入一行,只是getline读入,那么getline返回的是该文件的第一行,而不是隔行。

用法大致以下几种:

 

        awk ‘BEGIN{“cat data.txt”|getline d; print d}’ data2.txt

        awk ‘BEGIN{“cat data.txt”|getline; print $0}’ data2.txt

        awk ‘BEGIN{getline d < “data.txt”; print d}’ data2.txt

        awk ‘BEGIN{getline < “data.txt”; print $0}’ data2.txt

     以上4句,读取文件的第一行到变量d,如果没有变量d,默认读到$0,均实现“只打印data.txt文件的第一行”

     若打印全部行,用循环

     awk ‘BEGIN{FS=”:”;while(getline<”/etc/passwd”>0){print $1}}’ data.txt(这里意思是/etc/passwd存在的话,)

 

     理解以下这句的执行流程:

     awk ‘{getline; print $0}’ data.txt

     awk首先读入第一行,接着处理getline函数,getline读入的是第二行,把第二行给了$0,打印,然后awk再读入第三行,getline再读第四行。。。循环下去.打印偶数行

 

awk的内置函数

    split(字符串,数组,分隔符):

    功能:将string表示的字符串以fieldsep为分隔符进行切片,并切片后的结果保存至array为名的数组中;数组下标从1开始;此函数有返回值,返回值为切片后的元素的个数

    例:awk -v test="a,b,c,d" 'BEGIN{r=split(test,array,",");for(i=1;i<=r;i++){print array[i]}}'

 

    length(string)

        功能:返回给定字串的长度

        例:awk -v test="abcd" 'BEGIN{print length(test)}'

 

    substr(string,start[,length])

        功能:从string中取子串,从start为起始位置为取length长度的子串

        例:awk -v test="abcd" 'BEGIN{r=substr(test,1,2);print r}'

 

    match(string,regular expression)

        功能:返回指定正则表达式在字符串中的位置

        例:awk -v test="ddaabcd" 'BEGIN{r=match(test,/abc/);print r}'

   

    index(string,substring)

        功能:返回子字符串第一次被匹配的位置

        例:awk -v test="abcd" 'BEGIN{print index(test,"b")}'

 

    sub(查找字符串,替换字符串,查找位置)

        功能:替换第一次找到到的内容,查找字符串用正则表达式表示,查找位置省略的话,默认为整个文档,还有gsub函数,全局替换

        例:awk -v test="abcd" 'BEGIN{sub(/b/,"oo",test);print test}'

 

时间函数

   systime函数返回从1970年1月1日开始到当前时间(不计闰年)的整秒数。一般与strftime配合使用。格式如下:

    systime()

    例: awk 'BEGIN{print systime()}'

 

    strftime函数使用C库中的strftime函数格式化时间。格式如下:

    systime( [format specification][,timestamp] )

 

        日期和时间格式说明符

        格式 描述

        %a 星期几的缩写(Sun)

        %A 星期几的完整写法(Sunday)

        %b 月名的缩写(Oct)

        %B 月名的完整写法(October)

        %c 本地日期和时间

        %d 十进制日期

        %D 日期 08/20/99

        %e 日期,如果只有一位会补上一个空格

        %H 用十进制表示24小时格式的小时

        %I 用十进制表示12小时格式的小时

        %j 从1月1日起一年中的第几天

        %m 十进制表示的月份

        %M 十进制表示的分钟

        %p 12小时表示法(AM/PM)

        %S 十进制表示的秒

        %U 十进制表示的一年中的第几个星期(星期天作为一个星期的开始)

        %w 十进制表示的星期几(星期天是0)

        %W 十进制表示的一年中的第几个星期(星期一作为一个星期的开始)

        %x 重新设置本地日期(08/20/99)

        %X 重新设置本地时间(12:00:00)

        %y 两位数字表示的年(99)

        %Y 当前月份

        %Z 时区(PDT)

        %% 百分号(%)

 

     例:awk -v test="abcd" 'BEGIN{print strftime("%D",systime())}'

 


数组

    awk中的数组的下标可以是数字和字母,称为关联数组。

 

    用变量作为数组下标。如:$ awk {name[x++]=$2};END{for(i=0;i<NR;i++) print i,name[i]}' test。数组name中的下标是一个自定义变量x,awk初始化x的值为0,在每次使用后增加1。第二个域的值被赋给name数组的各个元素。在END模块中,for循环被用于循

环整个数组,从下标为0的元素开始,打印那些存储在数组中的值。因为下标是关健字,所以它不一定从0开始,可以从任何值开始。

 

        special for循环用于读取关联数组中的元素。格式如下:

        {for (item in arrayname){

        print arrayname[item]

        }

        }

 

    awk '/^tom/{name[NR]=$1}; END{for(i in name){print name[i]}}' test。打印有值的数组元素。打印的顺序是随机的。


    用字符串作为下标。如:count["test"]


    用域值作为数组的下标。一种新的for循环方式,for (index_value in array) statement。

    例: awk '{count[$1]++}END{for(name in count) print name,count[name]}' test。该语句将打印$1中字符串出现的次数。它首先以第一个域作数组count的下标,第一个域变化,索引就变化。


    delete函数用于删除数组元素。

    例:$ awk '{line[x++]=$1} END{for(x in line) delete(line[x])}' test。分配给数组line的是第一个域的值,所有记录处理完成后,special for循环将删除每一个元素

 

 

条件语句

        if语句

        格式:

        {if (expression){

        statement; statement; ...

        }

        }

        例:awk -v test="a" 'BEGIN{if(test=="a"){print "aaa"}}'

        例:awk '{if ($1 < $2) {count++; print "ok"}}' test.如果第一个域小于第二个域,则count加一,并打印ok。

 

    if/else语句,用于双重判断。

        格式:

        {if (expression){

        statement; statement; ...

        }

        else{

        statement; statement; ...

        }

        }

        例:awk -v test="a" 'BEGIN{if(test=="a"){print "aaa"}else{print "pk"}}'
     例:awk '{if ($1 > 100){ count++; print $1} else {count--; print $2}' test。如果$1大于100,则count加一,并打印$1,否则count减一,并打印$1。

 

    if/else else if语句,用于多重判断,注意这个与bash中的有点不一样,bash中是elif

        格式:

        {if (expression){

        statement; statement; ...

        }

        else if (expression){

        statement; statement; ...

        }

        else if (expression){

        statement; statement; ...

        }

        else {

        statement; statement; ...

        }

        }

    例:awk -v test="b" 'BEGIN{if(test=="a"){print "aaa"}else if(test=="b"){print "bbb"}else{print "pk"}}'

 

循环

      awk有三种循环:while循环;for循环;special for循环。

        awk '{ i = 1; while ( i <= NF ) { print NF,$i; i++}}' test。变量的初始值为1,若i小于可等于NF(记录中域的个数),则执行打印语句,且i增加1。直到i的值大于NF.

        awk '{for (i = 1; i<NF; i++) print NF,$i}' test。作用同上。

 

    breadk continue语句。

    break用于在满足条件的情况下跳出循环;continue用于在满足条件的情况下忽略后面的语句,直接返回循环的顶端。

        例:

        for ( x=3; x<=NF; x++){

        if ($x<0){print "Bottomed out!"; break}}

     例:

        for ( x=3; x<=NF; x++){

        if ($x==0){print "Get next item"; continue}}

 

     next语句从输入文件中读取一行,然后从头开始执行awk脚本。

     例:

     {if ($1 ~/test/){next}else {print}}

 

     exit语句用于结束awk程序,但不会略过END块。退出状态为0代表成功,非零值表示出错。