啊！我的头发！！——文本处理命令和Shell正则表达式

---

sort命令

以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序

语法格式

sort [选项] 参数（文件）
或cat 参数 | sort 选项

常用选项

-f：忽略大小写，若不使用则会默认将大写字母排在前面
-b：忽略每行前面的空格
-n：按照数字进行排序
-r：反向排序
-u：等同于uniq，表示忽略连续的重复行
-k：指定要进行排序的字段
-t：指定字段分隔符，若不使用则会默认使用[Tab]减分隔
-o <输出文件>：将排序后的结果转存到指定文件

示例：

sort -n /root/shili

sort -t ':' -k 3 -n /etc/passwd

du -a | sort -nr -o du.txt

uniq命令

用于报告或者忽略文件中连续的重复行，常与sort命令结合使用

语法格式

uniq [选项] 参数(文件)
或
cat 参数 | uniq 选项

常用选项

-c：进行计数，并删除文件中重复出现的行
-d：仅显示连续的重复行
-u：仅显示出现一次的行

示例：

uniq /root/shili2
sort -n /root/shili2 | uniq -c

tr命令

常用来对来自标准输入的字符进行替换、压缩和删除

语法格式

tr [选项] 参数

常用选项

-c：保留字符集1的字符，其他的字符（包括换行符\n）用字符集2替换
-d：删除所有属于字符集1的字符
-s：将重复出现的字符串压缩为一个字符串，然后用字符集2替换字符集1
-t：字符集2替换字符集1，不加选项也是一样的效果

参数

• 字符集1：指定要转换或删除的原字符集。当执行转换操作时，必须使用参数“字符集2”指定转换的目标字符集。但执行删除操作时，不需要参数“字符集2”
• 字符集2：指定要转换成的目标字符集

示例：

[root@localhost ~]# echo "abc" | tr 'a-z' 'A-Z'

[root@localhost ~]# echo -e "abc\ncabcdab" | tr -c "ab\n" "0"
ab0
0ab00ab
[root@localhost ~]#echo -e "abc\ncabcdab" | tr -c "ab" "0"
ab000ab00ab0[root@localhost ~]# 

[root@localhost ~]# echo 'hello word' | tr -d 'od'
hell wr

[root@localhost ~]# echo "thissss is The Lion Kinggggggg" | tr -s 'sg'
this is The Lion King

删除空行

[root@localhost ~]# echo -e "aa\n\n\n\n\nbb" | tr -s "\n"
aa
bb
cat /root/shili3 | tr -s "\n"

把路径变量中的冒号":"，替换成换行符"\n"

[root@localhost ~]# echo $PATH | tr -s ":" "\n"
/usr/local/sbin
/usr/local/bin
/usr/sbin
/usr/bin
/root/bin
[root@localhost ~]# echo -e "aa\n\n\n\n\nbb" | tr -s "\n" ":"
aa:bb:[root@localhost ~]# 

删除Windows文件“造成”的’^M'字符：

cat 文件 | tr -s "\r" > new_文件
或
cat 文件 | tr -d "\r" >new_文件

Linux中遇到换行符（\n）会进行回车+换行的操作，回车符反而只会作为控制字符（^M）显示，不发生回车的操作。而Windows中要回车符+换行符（\r\n）才会回车+换行，缺少任何一个控制符或者顺序不对都不能正确的另起一行

正则表达式

通常用于判断语句中，用来检测某一字符串是否满足某一格式

正则表达式的组成

正则表达式是由普通字符与元字符组成

• 普通字符包括大小写字母、数字、标点符号及一些其他符号
• 元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符（即位于元字符前面的字符）在目标对象中的出现模式

基础正则表达式常见元字符

\：      转义字符，用于取消特殊符号的含义，例：\!、\n、\$等
^：      匹配字符串开始的位置，例：^a、^the、^#、^[a-z]
$：      匹配字符串结束的位置，例：word$、^$匹配空行
.：      匹配除\n之外的任意一个字符，例：go.d、g..d
*：      匹配前面子表达式0次或者多次，例：goo*d、go.*d
[list]： 匹配list列表里的一个字符
[^list]：匹配任意非list列表里的一个字符
\{n\}：  匹配前面的子表达式n次
\{n,\}： 匹配前面的子表达式至少n次
\{n,m\}：匹配前面的子表达式n到m次
注：egrep、awk使用{n}、{n,}、{n,m}匹配时“{}”前不用加“\”

扩展正则表达式元字符：

支持egrep和awk工具

+： 匹配前面的子表达式1次以上，例：go+d，将匹配至少一个o，如dod、good、goood等
?： 匹配前面的子表达式0次或者1次，例：go？d，将匹配gd或god
()：将括号中的字符串作为一个整体
|： 以或的方式匹配字条串，例：g(oo|la)g，将匹配good或者glad

正则表达式匹配E-mail地址

用户名@：^([a-zA-Z0-9_\-\.\+]+)@
子域名：([a-zA-Z0-9_\-\.]+)
.顶级域名（顶级域名的字符串长度一般在2到5）：\.([a-zA-Z]{2,5})$

egrep '^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$' email.txt
awk '/^([a-zA-Z0-9_\-\.\+]+)@([a-zA-Z0-9_\-\.]+)\.([a-zA-Z]{2,5})$/{print $0}' email.txt

---