grep:文本过滤(模式:pattern)工具 grep, egrep, fgrep(不支持正则表达式搜索)
sed:stream> editor,文本编辑工具
awk:Linux上的实现gawk,文本报告生成器
grep
grep: Global search REgular expression and Print out the line
作用:文本搜索工具,根据用户指定的“模式”对目标文本逐行进行匹配检查;打印匹配到的行
模式:由正则表达式字符及文本字符所编写的过滤条件
grep [OPTIONS] PATTERN [FILE...]
grep root /etc/passwd
grep "$USER" /etc/passwd
grep '$USER' /etc/passwd
grep `whoami` /etc/passwd
grep命令选项:
--color=auto: 对匹配到的文本着色显示
-m # 匹配#次后停止
如: grep -m 5 nologin /etc/passwd 匹配5次后停止匹配
-v 显示不被pattern匹配到的行
如:grep –v nologin /etc/passwd 匹配不包含nologin字符的行
-i 忽略字符大小写
-n 显示匹配的行号
-c 统计匹配的行数
如:grep –c nologin /etc/passwd 匹配到的行数
-o 仅显示匹配到的字符串
-q 静默模式,不输出任何信息
-A # after, 后#行
如:grep –A 3 root /etc/passwd 显示搜索到的行及后面的3行
-B # before, 前#行
-C # context, 前面的#行和后面的#行
-e 实现多个选项间的逻辑or关系
grep –e 'cat' -e ‘dog’ file
-w 匹配整个单词
如: echo “rootler” | grep -w root
echo “root_let” | grep -w root
-E 使用ERE
-F 相当于fgrep,不支持正则表达式
-f file 根据模式文件处理
如:grep –f grep.list /et/passwd
vim grep.list
root
bash
df | grep “/dev/sd”
sed
sed:Stream EDitor, 行编辑器
sed是一种流编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处
理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。然后读入下行,执行下一个循环。
如果没有使诸如‘D’的特殊命令,那会在两个循环之间清空模式空间,但不会清空保留空间。这样不断重复,直到文件末尾。文件内容并没有改变,除非你使用重定向存储输出。
功能:主要用来自动编辑一个或多个文件,简化对文件的反复操作,编写转换程序等
参考sed官网: http://www.gnu.org/software/sed/manual/sed.html
语法格式:sed [option]... 'script' inputfile...
script: '地址命令'
常用选项:
-n :不输出模式空间内容到屏幕,即不自动打印
-e :多点编辑
-f :/PATH/SCRIPT_FILE 从指定文件中读取编辑脚本
-r :支持使用扩展正则表达式
-i.bak :备份文件并原处编辑
地址定界:
(1) 不给地址:对全文进行处理
(2) 单地址:
#:指定的行,$:最后一行
/pattern/:被此处模式所能够匹配到的每一行
(3) 地址范围:
#,# :第几行到第几行,如:1,5 表示显示1到5行
#,+# :第几行后面的几行,如:3,+5 表示显示从第3行开始加上后面的5行
/pat1/,/pat2/ :获取从包含pat1行开始到包含pat2行结束
#,/pat1/ :获取从第#行开始,直接包含pat1字符串的行结束
(4) ~:步进
1~2 奇数行
2~2 偶数行
编辑命令:
d :删除模式空间匹配的行,并立即启用下一轮循环
p :打印当前模式空间内容,追加到默认输出之后
a [\]text :在指定行后面追加文本,支持使用\n实现多行追加
i [\]text :在行前面插入文本
c [\]text :替换行为单行或多行文本
w /path/file :保存模式匹配的行至指定文件
r /path/file :读取指定文件的文本至模式空间中匹配到的行后
= :为模式空间中的行打印行号
! :模式空间中匹配行取反处理
s/// :查找替换,支持使用其它分隔符,s@@@,s###
替换标记:
g :行内全局替换,默认只替换第一个
如:sed ‘s/root/ROOT/g’ /etc/passwd
p :显示替换成功的行
w /PATH/FILE :将替换成功的行保存至文件中
示例: sed ‘2p’ /etc/passwd
sed -n ‘2p’ /etc/passwd
sed -n ‘1,4p’ /etc/passwd
sed -n ‘/root/p’ /etc/passwd
sed -n ‘2,/root/p’ /etc/passwd 从2行开始
sed -n ‘/^$/=’ file 显示空行行号
sed -n -e ‘/^$/p’ -e ‘/^$/=’ file
Sed‘/root/a\superman’ /etc/passwd行后
sed ‘/root/i\superman’ /etc/passwd 行前
sed ‘/root/c\superman’ /etc/passwd 代替行
sed ‘/^$/d’ file
sed ‘1,10d’ file
nl /etc/passwd | sed ‘2,5d’
nl /etc/passwd | sed ‘2a tea’
sed 's/test/mytest/g' example
sed –n ‘s/root/&superman/p’ /etc/passwd 单词后
sed –n ‘s/root/superman&/p’ /etc/passwd 单词前
sed -e ‘s/dog/cat/’ -e ‘s/hi/lo/’ pets
sed –i.bak ‘s/dog/cat/g’ pets
sed ‘/^root/a new line’ /etc/passed 在root开头的行添加new line一行
sed ‘/^SELINUX=/c SELINUX=enforcing’ /etc/selinux/conf 使用SELINUX=enforcing替换搜索到的行
sed ‘/^#d;w /data/httpd.conf’ /etc/httpd/conf/httpd.conf 删除以#开头的行并将结果保存到文件/data/httpd.conf
sed ‘2-2r /etc/issue’ 从文件读取数据插入到偶数行后面
sed ‘/^root/=’ 把符合条件的行号显示出来
seq 10 | sed ‘1~2p’ 取反
ifconfig eth0 | sed -n ‘2s/.*inet //;s/ netmask.*//p’ 取IPV4地址
高级编辑命令
P:打印模式空间开端至\n内容,并追加到默认输出之前
h:把模式空间中的内容覆盖至保持空间中
H:把模式空间中的内容追加至保持空间中
g:从保持空间取出数据覆盖至模式空间
G:从保持空间取出内容追加至模式空间
x:把模式空间中的内容与保持空间中的内容进行互换
n:读取匹配到的行的下一行覆盖至模式空间
N:读取匹配到的行的下一行追加至模式空间
d:删除模式空间中的行
D:如果模式空间包含换行符,则删除直到第一个换行符的模式空间中的文本,并不会读取新的输入行,而使用合成的模式空间重新启动循环。如果模式空间不包含换行符,则会像发出d命令那样启动正常的新循环
示例: sed -n 'n;p' FILE
sed '1!G;h;$!d' FILE
sed‘N;D’FILE
sed '$!N;$!D' FILE
sed '$!d' FILE
sed ‘G’ FILE
sed ‘g’ FILE
sed ‘/^$/d;G’ FILE
sed 'n;d' FILE
sed -n '1!G;h;$p' FILE
练习
1、删除centos7系统/etc/grub2.cfg文件中所有以空白开头的行行首的空白字符
2、删除/etc/fstab文件中所有以#开头,后面至少跟一个空白字符的行的行首的#和空白字符
3、在centos6系统/root/install.log每一行行首增加#号
4、在/etc/fstab文件中不以#开头的行的行首增加#号
5、处理/etc/fstab路径,使用sed命令取出其目录名和基名
6、利用sed 取出ifconfig命令中本机的IPv4地址
7、统计centos安装光盘中Package目录下的所有rpm文件的以.分隔倒数第二个字段的重复次数
8、统计/etc/init.d/functions文件中每个单词的出现次数,并排序(用grep和sed两种方法分别实现)\
9、将文本文件的n和n+1行合并为一行,n为奇数行