shell中截取字符串的方法有很多中,本人对其中几种常用的进行整理总结。


0x01、grep

在文件中搜寻字符串匹配的行并输出


Linux系统中grep命令是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹 配的行打印出来。grep全称是Global Regular Expression Print,表示全局正则表达式版本,它的使用权限是所有用户。

grep 【选项】【指定字串】【文件】

-i 不区分大小写

-v 排除指定字串

-c:只输出匹配行的计数。

-n:显示匹配行及 行号。

-s:不显示不存在或无匹配文本的错误信息。


grep支持正则表达式,下面总结下正则表达式和通配符。


正则表达式

正则表达式用来在文件中匹配符合条件的字符串,正则表达式是包含匹配。grep、awk、sed等命令可以支持正则表达式。

通配符

通配符用来匹配符合条件的文件名,通配符是完全匹配,ls、find、cp这些命令不支持正则表达式,所以只能使用shell自己的通配符来进行匹配。

 

正则有些符号和通配符有些符号通用,但含义完全不同

 

基础正则表达式

元字符

作用

*

前一个字符匹配0次或任意多次

.

匹配除了换行符外任意一个字符

^

匹配行首。如^hello会匹配以hello开头的行

$

匹配行尾,如hello会匹配以hello结束的行

[]

匹配中括号中任意的一个字符,只匹配一个字符。

[^]

匹配除中括号的字符以外的任意一个字符。如[^0-9]匹配任意一个非数字字符

\

转义符。用于取消特殊符号的含义

{n}

n是一个非负数,匹配前面的字符恰好出现n次。如o{2}匹配food中的两个o

{n,}

表示其前面的字符出现不少于n次

{n,m}

最少匹配n次且最多匹配m次

 



需要注意的是,通配符的*表示任意字符,而正则表达式的*是匹配钱一个字符0次或者任意多次 grep "s*" anaconda-ks.cfg  显示的不是包含有s的行,而是显示了整个文件,“s*”匹配s的0次或多次




grep rn 字符串 grep截取字符串_操作系统




grep "size*" anaconda-ks.cfg匹配了e的0次或多次,但至少需匹配siz字符串




grep rn 字符串 grep截取字符串_sed_02




“.”匹配除了换行符外任意一个字符,和通配符的?相同,“.*”就才和通配符中的“*”作用相同





grep提取行,cut和awk提取列

 

0x02、cut

cut是一个选取命令,就是将一段数据经过分析,取出我们想要的。一般来说,选取信息通常是针对“行”来进行分析的,并不是整篇信息分析的

cut[选项] 文件名

-f列号提取第几列

-d分隔符按照指定分隔符分割列(默认使用的是制表符tab键)


grep rn 字符串 grep截取字符串_shell_03



和grep结合使用,cat /etc/passwd | grep /bin/bash | grep -v root | cut -d":" -f 1




grep rn 字符串 grep截取字符串_shell_04


cut命令的局限线

cut命令对于空格符分割,不能很好的提取,可以使用awk命令解决



0x03、awk

和cut命令作用一样,截取符合条件的列,grep是截取符合条件的行,但cut有些局限,awl也可以通过制表符,冒号等分隔符截取,功能远比cut强大,但awk是一个非常复杂的命令,不但可以实现字符串的截取,还可以在awk命令中进行编程调用,最常见的可以进行函数,判断等。所以把awk一直说是awk编程。但仅仅是简单的截取列,又不是用空格作分割的话,cut命令更简单。

 

awk是一个强大的文本分析工具,相对于grep的查找,sed的编辑,awk在其对数据分析并生成报告时,显得尤为强大。简单来说awk就是把文件逐行的读入,以空格为默认分隔符将每行切片,切开的部分再进行各种分析处理。

 

 

awk ‘条件1{动作1}条件2{动作2}...’文件名

条件

一般使用关系表达式作为条件

x>10判断变量x是否大于10

x>=10大于等于

x<=10小于等于

 

动作

格式化输出

流程控制语句


grep rn 字符串 grep截取字符串_sed_05

$1代表第一列,$2代表第二列,$0代表整一行

 

 

 

FS内置变量



awk '{FS=":"}{print $1"\t" $3}' /etc/passwd,使用FS=””,指定分割符,第一行已经读完,用冒号分割已经来不及了,默认的用空格分割,后面的用冒号分割,在 FS之前强制加个BEGIN




grep rn 字符串 grep截取字符串_grep rn 字符串_06

 

关系运算符

 



cat /etc/passwd | awk '{FS=":"} $3>=500 {printf $1"\n"}'




grep rn 字符串 grep截取字符串_操作系统_07



0x04、printf

printf是在awk中的标准输出格式


 printf ‘输出类型输出格式’输出内容


输出类型:

%ns:输出字符串,n是数字指代输出几个字符

%ni:输出是整数,n是数字指代输出几个数字

%m.nf:输出浮点数。m和n是数字,指代输出的整数位数和小数位数。加%8.2f代表共输出8位数,其中2位是小数,6位是整数。

 

输出格式:

\a:输出警告声音

\b:输出退格符,也就是backspace键

\f:清楚屏幕

\n:换行

\r:回车,也就是Enter键

\t:水平输出退格键,也就是Tab键

\v:垂直输出退格键,也就是Tab键


grep rn 字符串 grep截取字符串_sed_08


在awk命令的输出中支持print和printf命令

print:print会在每个输出之后自动加入一个换行符(linux默认没有print命令)

 

printf:printf是标准格式输出命令,并不会自动加入换行符,如果需要换行,需要手工加入换行符。


0x05、sed

sed是一种几乎包括在所有unix平台(包括linux)的轻量级流编辑器。sed主要是用来将数据进行选取、替换、删除、新增的命令。

 

vim也可以进行选取,删除,替换等,但是vim只能对文件进行修改,但是不可以直接对命令的结果进行修改,需先把命令保存到文件中,再对文件进行修改。而sed可以从管道符接收数据进行修改


grep rn 字符串 grep截取字符串_grep rn 字符串_09


sed [选项] ‘[动作]’文件名

常见选项

-n一般sed命令会把所有数据都输出到屏幕,加入此参数,则只会把经过sed命令处理的行输出到屏幕

-e允许对输入数据应用多条sed命令编辑

-i用sed的修改结果直接修改读取数据的文件,而不是由屏幕输出

 

动作:

a\:追加,在当前行后添加一行或多行。添加多行时,除最后一行外,每行末尾需要用“\”代表数据未完结。

c\:行要用\”代表数据为完结。

替换,用c后面的字符串替换原来数据行,替换多行时,除最后一行外,每行末尾需i\:插入,在当前行前插入一行或多行,插入多行时,除最后一行外,每行末尾需要用\”代表数据为完结。

d:删除,删除指定的行。

p:输出、打印指定的行。

s:字串替换,用一个字符串替换另外一个字符串。格式为“行范围s/旧字串/新字串/g”(和vim中的替换格式类似)。

 

 



sed -n "1p" /etc/passwd ,查看etc/passwd中的第一行,如果不加-n参数,显示这条操作外,还会显示文件的全部内容,加-n 只会显示处理的行




grep rn 字符串 grep截取字符串_操作系统_10




sed "2,36d" /etc/passwd ,删除第二行到第四行的数据,但不修改文件本身,只有加了-i参数才会修改文件本身




grep rn 字符串 grep截取字符串_shell_11


动作a和i都是添加,a是追加在行尾,i是插入在行前,但不都会修改文件本身,只会先显示上做修改,不加-n 除了虎显示修改的数据,还会显示文本的所有数据。

grep rn 字符串 grep截取字符串_awk_12

grep rn 字符串 grep截取字符串_shell_13

动作c和动作s都是进行替换,c进行的是行的替换,s进行的是字符串的替换,字符替换的格式是sed “s/旧字符串/新字符串/g”文件名,在s前指定行只需改指定的行,不指定会修改所有的。

grep rn 字符串 grep截取字符串_sed_14

grep rn 字符串 grep截取字符串_awk_15



0x06、sort 排序命令


sort 【选项】 文件名

选项

忽略大小写

以数值型进行排序,默认使用字符串排序

-r反向排序

-t指定分隔符,默认使用的是制表符tab键

-k n[,m]按照指定的字段范围排序,从第n字段开始,m字段结束,不加m默认到行尾


grep rn 字符串 grep截取字符串_shell_16



sort -t ":" -k 3,3 /etc/passwd,仔细看,没把uid当作字符串对待,而当数值型对待,需要加-n参数



grep rn 字符串 grep截取字符串_sed_17