文本处理三剑客之SED

sed (Stream EDitor),行编辑器

sed是一种流编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。然后读入下行,执行下一个循环。 如果没有使诸如‘D’ 的特殊命令,那会在两个循环之间清空模式空间,但不会清空保留空间。这样不断重复,直到文件末尾。文件内容并没有改变,除非你使用重 定向存储输出。

功能

主要用来自动编辑一个或多个文件,简化对文件的反复操作,编写转换程序等

用法

sed [option]... 'script' inputfile...

常用选项

-n 不输出模式空间内容到屏幕,即不自动打印
-e 多点编辑
-f /PATH/SCRIPT_FILE 从指定文件中读取编辑脚本
-r 支持使用扩展正则表达式
-i.bak 备份文件并原处编辑

script

'地址命令'

sed工具


地址定界

(1) 不给地址:对全文进行处理
(2) 单地址:
#:指定的行,$:最后一行
/pattern/:被此处模式所能够匹配到的每一行
(3) 地址范围
#,#
#,+#
/pat1/,/pat2/
#,/pat1/
(4) ~:步进
1~2 奇数行
2~2 偶数行sed工具

编辑命令

d 删除模式空间匹配的行,并立即启用下一轮循环
p 打印当前模式空间内容,追加到默认输出之后
a [\]text 在指定行后面追加文本,支持使用\n实现多行追加
i [\]text 在行前面插入文本
c [\]text 替换行为单行或多行文本
w /path/file 保存模式匹配的行至指定文件
r /path/file 读取指定文件的文本至模式空间中匹配到的行后
= 为模式空间中的行打印行号
! 模式空间中匹配行取反处理sed工具
s/// 查找替换,支持使用其它分隔符,s@@@,s###

替换标记

g 行内全局替换
p 显示替换成功的行
w /PATH/FILE 将替换成功的行保存至文件中

高级编辑命令

P: 打印模式空间开端至\n内容,并追加到默认输出之前
h: 把模式空间中的内容覆盖至保持空间中
H:把模式空间中的内容追加至保持空间中
g: 从保持空间取出数据覆盖至模式空间
G:从保持空间取出内容追加至模式空间
x: 把模式空间中的内容与保持空间中的内容进行互换
n: 读取匹配到的行的下一行覆盖至模式空间
N:读取匹配到的行的下一行追加至模式空间
d: 删除模式空间中的行
D:如果模式空间包含换行符,则删除直到第一个换行符的模式空间中的文本,并不会读取新的输入行,而使用合成的模式空间重新启动循环。如果模式空间不包含换行符,则会像发出d命令那样启动正常的新循环

sed练习


在每⼀⾏后增加⼀空⾏?

[root@centos ~]# sed 'G' text.txt

在匹配regex的⾏之后插⼊⼀空⾏?

[root@centos ~]# sed '/regex/G' text.txt

sed将⽂件test中第50⾏中的haiwao改为haiwai?

[root@centos ~]# sed -n '50p' |sed 's/haiwao/haiwai/' test

替换一个文件/etc/passwd里的这root:x:0:0:root:/root:/bin/bash一行第二个root为test?

[root@centos ~]# cat /etc/passwd| sed '/^root/!d'|sed 's/root/test/2'

打印/etc/passwd的奇数⾏?

[root@centos ~]# sed -n '1~2p' /etc/passwd

⽇志⽂件a.log,内容是时间顺序递增,从0点到23点的所有⽇志记录,每条时间的⽇志为⼀⾏

2016/06/12 00:00:00 - - 200 190 http://www.a.com/o1html xxxxxxx
2016/06/12 00:00:01 - - 200 390 http://www.b.com/o1html xxxxxxx
2016/06/12 00:00:02 - - 200 490 http://www.v.com/o.html xxxxxxx
2016/06/12 00:00:03 - - 200 890 http://www.a.com/o.html xxxxxxx......
2016/06/12 23:59:56 - - 200 320 http://www.3.com/o.jpg xxxxxxx
2016/06/12 23:59:57 - - 200 131 http://www.9.com/o.html xxxxxxx
2016/06/12 23:59:58 - - 200 489 http://www.r.com/o.net xxxxxxx
2016/06/12 23:59:59 - - 200 772 http://www.w.com/o.php xxxxxxx

打印出05点到12点之间的所有⽇志?打印出05:30:35到22:45:55之间的所有⽇志?

[root@centos ~]# sed -n '/2016/06/12 05:00:00/,/2016/06/12 12:00:00/p' a.log
[root@centos ~]# sed -n '/2016/06/12 05:30:35/,/2016/06/12 22:45:55/p' a.log

删除centos7系统/etc/grub2.cfg⽂件中所有以空⽩开头的⾏⾏⾸的空⽩字符

[root@centos ~]# sed -r 's/^[[:blank:]]+//' /etc/grub2.cfg

删除/etc/fstab⽂件中所有以#开头,后⾯⾄少跟⼀个空⽩字符的⾏的⾏⾸的# 和空⽩字符

[root@centos ~]# sed -r 's/^#[[:blank:]]+//'g /etc/fstab

在centos6系统/root/install.log每⼀⾏⾏⾸增加#号

[root@centos ~]# sed -r 's/.*/#&/' /root/install.log

在/etc/fstab⽂件中不以#开头的⾏的⾏⾸增加#号

[root@centos ~]# sed -r 's@^[^#]@#&@p' /etc/fstab

处理/etc/fstab路径,使⽤sed命令取出其⽬录名和基名

目录名: [root@centos ~]# echo "/etc/fstab" |sed -r 's@^(./)([^/]+/?)$@\1@' 基名: [root@centos ~]# echo "/etc/fstab" |sed -r 's@^(./)([^/]+/?)$@\2@'

利⽤sed 取出ifconfig命令中本机的IPv4地址

[root@centos ~]# ifconfig|sed -n '/broadcast/p'|sed -r 's@inet (.) netmask.@\1@'
[root@centos ~]# ifconfig ens33 |sed -r '2!d; s@(.inet )(.)(netmask.*)@\2@'

统计centos安装光盘中Package⽬录下的所有rpm⽂件的以.分隔倒数第⼆个字段的重复次数

[root@centos ~]# ls .rpm|sed -r 's@^..([^.]+).rpm$@\1@'|sort|uniq -c
[root@centos ~]# ls *.rpm|rev|cut -d. -f2|rev|sort|uniq -c

统计/etc/init.d/functions⽂件中每个单词的出现次数,并排序(⽤grep和 sed两种⽅法分别实现)

[root@centos ~]# sed -r "s/[^[:alpha:]]/\n/g" /etc/init.d/functions| sort | uniq -c | sort -nr
[root@centos ~]# egrep -o "[[:alpha:]]+" /etc/init.d/functions| sort | uniq -c | sort -nr

将⽂本⽂件的n和n+1⾏合并为⼀⾏, n为奇数⾏

[root@centos ~]# seq 10 | sed "1~2N;s/\n/ /"