shell脚本 正则表达式、sort、uniq、tr

正则表达式

通常用于判断语句中，用于检查某一字符串是否满足某一格式
正则表达式是由普通字符与元字符组成
普通字符包括大小写字母、数字、标点符号及一些其他符号
元字符是指在正则表达式中具有特殊意义的专用字符，可以用来规定其前导字符（即位于元字符前面的字符）在目标对象中的出现模式

1、基础正则表达式常见元字符（支持工具：egrep、awk、grep、sed）

元字符 说明
\ 转义字符，用于取消特殊符号的含义，例: !、\n、$等
^ 匹配字符串开始的位置，例: ^a、 ^the、 #、[a-z]
$ 匹配字符串结束的位置，例: wordKaTeX parse error: Expected group after ‘^’ at position 3: 、 ^̲匹配空行
. 匹配除\n之外的任意的一个字符，例: go.d、 g…d
* 匹配前面子表达式0次或者多次，例: goo*d、 go.*d
[list] 匹配list列表中的一个字符，例: go[ola]d， [abc]、 [a-z]、 [a-z0-9]、 [0-9]匹配任意一位数字
[ ^list] 匹配任意非list列表中的一个字符，例: [ ^0-9]、 [ ^A-Z0-9]、 [ ^a-z]匹配任意一位非小写字母
{n} 匹配前面的子表达式n次，例: go{2}d、 '[0-9]{2} '匹配两位数字
{n,} 匹配前而的子表达式不少于n次，例: go{2, }d、’[0-9]{2, }'匹配两位及两位以上数字
{n,m} 匹配前面的子表达式n到m次，例: go{2,3}d、 ’ [0-9]{2,3}'匹配两位到三位数字
注：egrep、 awk使用{n}、{n,}、{n, m}匹配时“{}”前不用加“\”

2、扩展正则表达式元字符（支持工具：egrep、awk）

元字符 说明
+ 匹配前面子表达式1次以上，例: go+d, 将匹配至少一个o， 如god、 good、 goood等
? 匹配前面子表达式0次或者1次，例: go?d， 将匹配gd或god
() 将括号中的字符串作为h一个整体，例1: g(oo)+d," 将匹配oo整体1次以上，如good、gooood等
| 以或的方式匹配字条串，例: g (oo|la)d," 将匹配good或者glad

3.排序命令sort

以行为单位对文件内容进行排序，也可以根据不同的数据类型来排序
格式

sort 【选项】 参数
cat 【文件】 | sort 参数

3.1 常用选项

-f 忽略大小写，默认会大写字母排在前面
-b 忽略每行前面的空格
-n 按照数字进行排序
-r 反向排序
-u 等同uniq，表示相同的数据仅显示一行，去重
-t 指定字段分隔符，默认使用tab键分隔
-k 指定排序字段
-o <输出文件> 将排序后的结果转存至指定文件
sort -n testfile2
sort -t ‘:’ -k 3 -n /etc/passwd
du -a | sort -nr -o du.txt

举例：

4.去除重复行操作uniq

用于报告或者忽略文件中连续的重复行，常与sort命令结合使用

4.1 格式

uniq 【选项】 参数
cat file | uniq 选项

4.2 常用选项

-c 进行计数，并删除文件中重复出现的行
-d 仅显示连续的重复行
-u 仅显示出现一次的行
uniq testfile3
sort -n testfile3 | unig -C

4.3 举例

不连续的还是在，所以可以结合上面的sort排序命令

5.字符转换tr

5.1格式

tr 【选项】参数

5.2常用选项

-c 保留字符集1的字符，其他的字符（包括换行符\n）用字符集2替换
-d 删除所有属于字符集1的字符
-s 将重复出现的字符串压缩为一个字符串，用字符集2 替换 字符集1
-t 字符集2 替换 字符集1，不加选项同结果

5.3 参数

字符集1：
指定要转换或删除的原字符集。当执行转换操作时，必须使用参数”字符集2“指定转换操作时，必须使用参数”字符集2“指定转换的目标字符集。但执行删除操作时，不需要参数”字符集2“
字符集2：
指定要转换成的目标字符集

删除空行
echo -e “aa\n\n\n\n\nbb” | tr -s “\n”
cat 【有空行的文件】| tr -s “\n”