grep (global search regular expression(RE) and print out the line,全面搜索正则表达式 并把行打印出来)是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹配的行打印出来。Unix 的 grep 家族包括 grep、egrep 和 fgrep。egrep 和 fgrep 的命令只跟 grep 有很小不同。egrep 是 grep 的扩展,支持更多的 re 元字符, fgrep 就是 fixed grep 或 fast grep,它们把所有的字母都看作单词,也就是说,正则表达式中的元字符表示回其自身的字面意义,不再特殊。linux 使用 GNU 版本的 grep。它功能更强,可以通过-G、-E、-F 命令行选项来使用 egrep和 fgrep 的功能。

grep 常用用法

# grep [-acinv] [--color=auto] '搜寻字符串' filename
选项与参数:
-a :将 binary 文件以 text 文件的方式搜寻数据
-c :计算找到 '搜寻字符串' 的次数
-i :忽略大小写的不同,所以大小写视为相同
-n :顺便输出行号
-v :反向选择,亦即显示出没有 '搜寻字符串' 内容的那一行!
--color=auto :可以将找到的关键词部分加上颜色的显示喔!

将/etc/passwd,有出现 root 的行取出来

# grep root /etc/passwd
root:x:0:0:root:/root:/bin/bash
operator:x:11:0:operator:/root:/sbin/nologin
#或者
# cat /etc/passwd | grep root
root:x:0:0:root:/root:/bin/bash
operator:x:11:0:operator:/root:/sbin/nologin

将/etc/passwd,有出现 root 的行取出来,同时显示这些行在/etc/passwd 的行号

# grep -n root /etc/passwd
1:root:x:0:0:root:/root:/bin/bash
30:operator:x:11:0:operator:/root:/sbin/nologin

在关键字的显示方面,grep 可以使用 --color=auto 来将关键字部分使用颜色显示。 这可是
个很不错的功能啊!但是如果每次使用 grep 都得要自行加上 --color=auto 又显的很麻烦~
此时那个好用的 alias 就得来处理一下啦!你可以在 ~/.bashrc 内加上这行:『alias
grep=‘grep --color=auto’』再以『 source ~/.bashrc 』来立即生效即可喔! 这样每次运
行 grep 他都会自动帮你加上颜色显示啦

将/etc/passwd中没有出现 root 的行取出来

#grep -v root /etc/passwd
root:x:0:0:root:/root:/bin/bash
operator:x:11:0:operator:/root:/sbin/nologin

将/etc/passwd,将没有出现 root 和 nologin 的行取出来

# grep -v root /etc/passwd | grep -v nologin
root:x:0:0:root:/root:/bin/bash
operator:x:11:0:operator:/root:/sbin/nologin

根据文件内容递归查找目录

# grep 'onajax.com' * #在当前目录搜索带'onajax.com'行的文件
# grep -r ‘onajax.com’ * #在当前目录及其子目录下搜索 'onajax.com'行的文件
# grep -l -r ‘onajax.com’ * #在当前目录及其子目录下搜索'onajax.com'行的文件,但是不显示匹配的行,只显示匹配的文件

grep 与正规表达式

字符类

字符类的搜索:如果我想要搜寻 test 或 taste 这两个单字时,可以发现到,其实她们有共通
的 ‘t?st’ 存在~这个时候,我可以这样来搜寻:

[root@onajax.com ~]# grep -n 't[ae]st' onajax.com.txt
8:I can't finish the test.
9:Oh! The soup taste good.

其实 [] 里面不论有几个字节,他都谨代表某『一个』字节, 所以,上面的例子说明了,我需
要的字串是『tast』或『test』两个字串而已!

字符类的反向选择 [^]

如果想要搜索到有 oo 的行,但不想要 oo 前面有 g,如下

[root@onajax.com ~]# grep -n '[^g]oo' onajax.com.txt
2:apple is my favorite food.
3:Football game is not use feet only.
18:google is the best tools for search keyword.
19:goooooogle yes!

第 2,3 行没有疑问,因为 foo 与 Foo 均可被接受!
但是第 18 行明明有 google 的 goo 啊~别忘记了,因为该行后面出现了 tool 的 too 啊!
所以该行也被列出来~ 也就是说, 18 行里面虽然出现了我们所不要的项目 (goo) 但是由於
有需要的项目 (too) , 因此,是符合字串搜寻的喔!
至於第 19 行,同样的,因为 goooooogle 里面的 oo 前面可能是 o ,例如:go(ooo)oogle ,
所以,这一行也是符合需求的!

字符类的连续

假设 oo 前面不想要有小写字节,所以,我可以这样写 [^abcd…z]oo ,
但是这样似乎不怎么方便,由於小写字节的 ASCII 上编码的顺序是连续的, 因此,我们可以将之简化为底下这样:

[root@onajax.com ~]# grep -n '[^a-z]oo' onajax.com.txt
3:Football game is not use feet only.

也就是说,当我们在一组集合字节中,如果该字节组是连续的,例如大写英文/小写英文/数字等等, 就可以使用[a-z],[A-Z],[0-9]等方式来书写,那么如果我们的要求字串是数字与英文,将他全部写在一起,变成:[a-zA-Z0-9]。
我们要取得有数字的那一行,就这样:

[root@onajax.com ~]# grep -n '[0-9]' onajax.com.txt
5:However, this dress is about $ 3183 dollars.
15:You are the best is mean you are the no. 1.

行首与行尾字节 ^ $

行首字符:如果我想要让 the 只在行首列出呢? 这个时候就得要使用定位字节了!

[root@onajax.com ~]# grep -n '^the' onajax.com.txt
12:the symbol '*' is represented as start.

此时,就只剩下第 12 行,因为只有第 12 行的行首是 the 开头啊~此外, 如果我想要开头
是小写字节的那一行就列出呢?可以这样:

[root@onajax.com ~]# grep -n '^[a-z]' onajax.com.txt
2:apple is my favorite food.
4:this dress doesn't fit me.
10:motorcycle is cheap than car.
12:the symbol '*' is represented as start.
18:google is the best tools for search keyword.
19:goooooogle yes!
20:go! go! Let's go.

如果我不想要开头是英文字母,则可以是这样:

[root@onajax.com ~]# grep -n '^[^a-zA-Z]' onajax.com.txt
1:"Open Source" is a good mechanism to develop programs.
21:# I am VBird

^ 符号,在字符类符号(括号[])之内与之外是不同的! 在 [] 内代表『反向选择』,在 [] 之外则代表定位在行首的意义!
那如果我想要找出来,行尾结束为小数点 (.) 的那一行:

[root@onajax.com ~]# grep -n '\.$' onajax.com.txt
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
4:this dress doesn't fit me.
10:motorcycle is cheap than car.
11:This window is clear.
12:the symbol '*' is represented as start.
15:You are the best is mean you are the no. 1.
16:The world <Happy> is the same with "glad".
17:I like dog.
18:google is the best tools for search keyword.

特别注意到,因为小数点具有其他意义(底下会介绍),所以必须要使用转义字符()来加以解除其特殊意义!

空白行:

[root@onajax.com ~]# grep -n '^$' onajax.com.txt
22:

因为只有行首跟行尾 (^$),所以,这样就可以找出空白行啦!

任意一个字节 . 与重复字节 *

这两个符号在正则表达式的意义如下:

. (小数点):代表『一定有一个任意字节』的意思;
* (星号):代表『重复前一个字符, 0 到无穷多次』的意思,为组合形态

假设我需要找出 g??d 的字串,亦即共有四个字节, 起头是 g 而结束是 d ,我可以这样做:

[root@onajax.com ~]# grep -n 'g..d' onajax.com.txt
1:"Open Source" is a good mechanism to develop programs.
9:Oh! The soup taste good.
16:The world <Happy> is the same with "glad".

因为强调 g 与 d 之间一定要存在两个字节,因此,第 13 行的 god 与第 14 行的 gd 就不
会被列出来啦!

如果我想要列出有 oo, ooo, oooo 等等的数据, 也就是说,至少要有两个(含) o 以上,该如
何是好?

因为 * 代表的是『重复 0 个或多个前面的 RE 字符』的意义, 因此,『o*』代表的是:『拥
有空字节或一个 o 以上的字节』,因此,『 grep -n ‘o*’ onajax.com.txt 』将会把所
有的数据都列印出来终端上!
当我们需要『至少两个 o 以上的字串』时,就需要 ooo* ,亦即是:

[root@onajax.com ~]# grep -n 'ooo*' onajax.com.txt
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
9:Oh! The soup taste good.
18:google is the best tools for search keyword.
19:goooooogle yes!

如果我想要字串开头与结尾都是 g,但是两个 g 之间仅能存在至少一个 o ,亦即是 gog,
goog, gooog… 等等,那该如何?

[root@onajax.com ~]# grep -n 'goo*g' onajax.com.txt
18:google is the best tools for search keyword.
19:goooooogle yes!

如果我想要找出 g 开头与 g 结尾的行,当中的字符可有可无

[root@onajax.com ~]# grep -n 'g.*g' onajax.com.txt
1:"Open Source" is a good mechanism to develop programs.
14:The gd software is a library for drafting programs.
18:google is the best tools for search keyword.
19:goooooogle yes!
20:go! go! Let's go.

因为是代表 g 开头与 g 结尾,中间任意字节均可接受,所以,第 1, 14, 20 行是可接受的喔!
这个 .* 的 RE 表示任意字符是很常见的.
如果我想要找出『任意数字』的行?因为仅有数字,所以就成为:

[root@onajax.com ~]# grep -n '[0-9][0-9]*' onajax.com.txt
5:However, this dress is about $ 3183 dollars.
15:You are the best is mean you are the no. 1.

限定连续 RE 字符范围 {}

我们可以利用 . 与 RE 字符及 * 来配置 0 个到无限多个重复字节, 那如果我想要限制一个范围区间内的重复字节数呢?
举例来说,我想要找出两个到五个 o 的连续字串,该如何作?这时候就得要使用到限定范围的字符 {} 了。

但因为 { 与 } 的符号在 shell 是有特殊意义的,因此, 我们必须要使用字符 \ 来让他失去特殊意义才行。 至於 {} 的语法是这样的,假设我要找到两个 o 的字串,

[root@onajax.com ~]# grep -n 'o\{2\}' onajax.com.txt
1:"Open Source" is a good mechanism to develop programs.
2:apple is my favorite food.
3:Football game is not use feet only.
9:Oh! The soup taste good.
18:google is the best tools for search ke
19:goooooogle yes!

假设我们要找出 g 后面接 2 到 5 个 o ,然后再接一个 g 的字串,他会是这样:

[root@onajax.com ~]# grep -n 'go\{2,5\}g' onajax.com.txt
18:google is the best tools for search keyword.

如果我想要的是 2 个 o 以上的 goooo…g 呢?除了可以是 gooo*g ,也可以是:

[root@onajax.com ~]# grep -n 'go\{2,\}g' onajax.com.txt
18:google is the best tools for search keyword.
19:goooooogle yes!

扩展 grep(grep -E 或者 egrep):

使用扩展 grep 的主要好处是增加了额外的正则表达式元字符集。打印所有包含 NW 或 EA 的行。如果不是使用 egrep,而是 grep,将不会有结果查出。

# egrep 'NW|EA' testfile
 northwest NW Charles Main 3.0 .98 3
34
 eastern EA TB Savage 4.4 .84 5
20

对于标准 grep,如果在扩展元字符前面加\,grep 会自动启用扩展选项-E。

#grep 'NW\|EA' testfile
northwest NW Charles Main 3.0 .98 3
34
eastern EA TB Savage 4.4 .84 5
20

搜索所有包含一个或多个 3 的行。

# egrep '3+' testfile
# grep -E '3+' testfile
# grep '3\+' testfile
#这 3 条命令将会
northwest NW Charles Main 3.0 .98 3
34
western WE Sharon Gray 5.3 .97 5
23
northeast NE AM Main Jr. 5.1 .94 3
13
central CT Ann Stephens 5.7 .94 5
13

搜索一个或者多个连续的 no 的行。

# egrep '(no)+' testfile
# grep -E '(no)+' testfile
# grep '\(no\)\+' testfile 
#3 个命令返回相同结果,
northwest NW Charles Main 3.0 .98 3
34
northeast NE AM Main Jr. 5.1 .94 3 13
north NO Margot Weber 4.5 .89 5 9

不使用正则表达式

fgrep 查询速度比 grep 命令快,但是不够灵活:它只能找固定的文本,而不是规则表达式。如果你想在一个文件或者输出中找到包含星号字符的行

fgrep '*' /etc/profile
for i in /etc/profile.d/*.sh ; do
或
grep -F '*' /etc/profile
for i in /etc/profile.d/*.sh ; do

[参考1] (sed 是一种在线编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中, 称为“模式空间”(pattern space),接着用 sed 命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有 改变,除非你使用重定向存储输出。Sed 主要用来自动编辑一个或多个文件;简化对文件的反复操作;编写转换程序等。

sed 使用参数

[root@onajax.com ~]# sed [-nefr] [动作]

选项与参数:
-n :使用安静(silent)模式。在一般 sed 的用法中,所有来自 STDIN 的数据一般都会被列出到终端上。
但如果加上 -n 参数后,则只有经过 sed 特殊处理的那一行(或者动作)才会被列出来。
-e :直接在命令列模式上进行 sed 的动作编辑;
-f :直接将 sed 的动作写在一个文件内, -f filename 则可以运行 filename内的 sed 动作;
-r :sed 的动作支持的是延伸型正规表示法的语法。(默认是基础正规表示法语法)
-i :直接修改读取的文件内容,而不是输出到终端。

动作说明: [n1[,n2]]function
n1, n2 :不见得会存在,一般代表『选择进行动作的行数』,举例来说,如果
我的动作是需要在 10 到 20 行之间进行的,则『 10,20[动作行为] 』

function:
a :新增, a 的后面可以接字串,而这些字串会在新的一行出现(目前的下一行)
c :取代, c 的后面可以接字串,这些字串可以取代 n1,n2 之间的行!
d :删除,因为是删除啊,所以 d 后面通常不接任何咚咚;
i :插入,i 的后面可以接字串,而这些字串会在新的一行出现(目前的上一行);
p :列印,亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运行
s :取代,可以直接进行取代的工作哩!通常这个 s 的动作可以搭配正规表示
法!例如 1,20s/old/new/g 就是啦!

以行为单位的新增/删除

将 /etc/passwd 的内容列出并且列印行号,同时,请将第 2~5 行删除!

[root@onajax.com ~]# nl /etc/passwd | sed '2,5d'
1 root:x:0:0:root:/root:/bin/bash
6 sync:x:5:0:sync:/sbin:/bin/sync
7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

sed 的动作为 ‘2,5d’ ,那个 d 就是删除!因为 2-5 行给他删除了,所以显示的数据就没有2-5 行

另外,注意一下,原本应该是要下达 sed -e 才对,没有 -e 也行啦!同时也要注
意的是, sed 后面接的动作,请务必以 ‘’ 两个单引号括住喔!

只要删除第 2 行 nl /etc/passwd | sed ‘2d’

要删除第 3 到最后一行 nl /etc/passwd | sed ‘3,$d’
在第二行后(亦即是加在第三行)加上『drink tea?』字样!

[root@onajax.com ~]# nl /etc/passwd | sed '2a drink tea'
1 root:x:0:0:root:/root:/bin/bash
2 bin:x:1:1:bin:/bin:/sbin/nologin
drink tea
3 daemon:x:2:2:daemon:/sbin:/sbin/nologin

那如果是要在第二行前

nl /etc/passwd | sed '2i drink tea'

如果是要增加两行以上,在第二行后面加入两行字,例如『Drink tea or …』与『drink beer?』

[root@onajax.com ~]# nl /etc/passwd | sed '2a Drink tea or ......\
> drink beer ?'
1 root:x:0:0:root:/root:/bin/bash
2 bin:x:1:1:bin:/bin:/sbin/nologin
Drink tea or ......
drink beer ?
3 daemon:x:2:2:daemon:/sbin:/sbin/nologin

每一行之间都必须要以反斜杠『 \ 』来进行新行的添加喔!所以,上面的例子中,我们可以发
现在第一行的最后面就有 \ 存在。

以行为单位的替换与显示

将第 2-5 行的内容取代成为【全栈编程】- onajax.com呢?

[root@onajax.com ~]# nl /etc/passwd | sed '2,5c 【全栈编程】- onajax.com'
1 root:x:0:0:root:/root:/bin/bash
【全栈编程】- onajax.com
6 sync:x:5:0:sync:/sbin:/bin/sync

透过这个方法我们就能够将数据整行取代了!

仅列出 /etc/passwd 文件内的第 5-7 行

[root@onajax.com ~]# nl /etc/passwd | sed -n '5,7p'
5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
6 sync:x:5:0:sync:/sbin:/bin/sync
7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

可以透过这个 sed 的以行为单位的显示功能, 就能够将某一个文件内的某些行号选择出来显示。
数据的搜寻并显示

搜索

搜索 /etc/passwd 有 root 关键字的行

[root@onajax.com ~]# nl /etc/passwd | sed '/root/p'
1 root:x:0:0:root:/root:/bin/bash
1 root:x:0:0:root:/root:/bin/bash
2 daemon:x:1:1:daemon:/usr/sbin:/bin/sh
3 bin:x:2:2:bin:/bin:/bin/sh
4 sys:x:3:3:sys:/dev:/bin/sh
5 sync:x:4:65534:sync:/bin:/bin/sync

如果 root 找到,除了输出所有行,还会输出匹配行。
使用-n 的时候将只打印包含模板的行。

[root@onajax.com ~]# nl /etc/passwd | sed -n '/root/p'
1 root:x:0:0:root:/root:/bin/bash

数据的搜寻并删除

删除/etc/passwd 所有包含 root 的行,其他行输出

[root@onajax.com ~]# nl /etc/passwd | sed '/root/d'
2 daemon:x:1:1:daemon:/usr/sbin:/bin/sh
3 bin:x:2:2:bin:/bin:/bin/sh

第一行的匹配 root 已经删除了

数据的搜寻并执行命令

搜索/etc/passwd,找到 root 对应的行,执行后面花括号中的一组命令,每个命令之间用分号分隔,这里把 bash 替换为 blueshell,再输出这行:

[root@onajax.com ~]# nl /etc/passwd | sed -n '/root/{s/bash/blueshell/;p}'
1 root:x:0:0:root:/root:/bin/blueshell

如果只替换/etc/passwd 的第一个 bash 关键字为 blueshell,就退出

[root@onajax.com ~]# nl /etc/passwd | sed -n '/bash/{s/bash/blueshell/;p;q}'
1 root:x:0:0:root:/root:/bin/blueshell

数据的搜寻并替换

除了整行的处理模式之外,sed 还可以用行为单位进行部分数据的搜寻并取代。基本上 sed 的
搜寻与替代的与 vi 相当的类似!他有点像这样:

sed 's/要被取代的字串/新的字串/g’

先观察原始信息,利用 /sbin/ifconfig 查询 IP

[root@onajax.com ~]# 
[root@onajax.com ~]# /sbin/ifconfig eth0
eth0 Link encap:Ethernet HWaddr 00:90:CC:A6:34:84
inet addr:192.168.1.100 Bcast:192.168.1.255 Mask:255.255.255.0
inet6 addr: fe80::290:ccff:fea6:3484/64 Scope:Link
UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1

本机的 ip 是 192.168.1.100。将 IP 前面的部分予以删除

[root@onajax.com ~]# 
[root@onajax.com ~]# /sbin/ifconfig eth0 | grep 'inet addr' | sed 's/^.*addr://g'
192.168.1.100 Bcast:192.168.1.255 Mask:255.255.255.0

接下来则是删除后续的部分,亦即: 192.168.1.100 Bcast:192.168.1.255
Mask:255.255.255.0
将 IP 后面的部分予以删除

[root@onajax.com ~]# /sbin/ifconfig eth0 | grep 'inet addr' | sed 's/^.*addr://g'
| sed 's/Bcast.*$//g'

192.168.1.100

多点编辑

一条 sed 命令,删除/etc/passwd 第三行到末尾的数据,并把 bash 替换为 blueshell

[root@onajax.com ~]# nl /etc/passwd | sed -e '3,$d' -e 's/bash/blueshell/'
1 root:x:0:0:root:/root:/bin/blueshell
2 daemon:x:1:1:daemon:/usr/sbin:/bin/sh

-e 表示多点编辑,第一个编辑命令删除/etc/passwd 第三行到末尾的数据,第二条命令搜索
bash 替换为 blueshell。

直接修改文件内容(危险动作)

sed 可以直接修改文件的内容,不必使用管道命令或数据流重导向! 不过,由於这个动作会直接修改到原始的文件,所以请你千万不要随便拿系统配置来测试! 我们还是使用下载的onajax.com.txt 文件来测试看看吧!

利用 sed 将 onajax.com.txt 内每一行结尾若为 . 则换成 !

[root@onajax.com ~]# sed -i 's/\.$/\!/g' onajax.com.txt

利用 sed 直接在 onajax.com.txt 最后一行加入『# This is a test』

[root@onajax.com ~]# sed -i '$a # This is a test' onajax.com.txt

由於 $ 代表的是最后一行,而 a 的动作是新增,因此该文件最后新增『# This is a test 』!

sed 的『 -i 』选项可以直接修改文件内容,这功能非常有帮助!举例来说,如果你有一个 100万行的文件,你要在第 100 行加某些文字,此时使用 vim 可能会疯掉!因为文件太大了!那怎办?就利用 sed 啊!透过 sed 直接修改/取代的功能,你甚至不需要使用 vim 去修订!