sed命令使用与原理详解

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档


前言

Shell脚本中,sed主要用于高效处理文本:自动编辑文件(增删改查)、批量替换内容(如配置修改)、过滤提取特定行(如日志分析)、实现非交互式文本流编辑。它通过简洁的命令行操作完成复杂任务,是Shell脚本中文本处理的核心工具之一。

一、sed

1. sed是什么

sed 命令是利用脚本来处理文本文件。它可以依照脚本的指令来处理、编辑文本文件。主要用来自动编辑一个或多个文件、简化对文件的反复操作、编写转换程序等。

2. sed的原理

使用sed命令对文本进行操作之前必须要知道它的原理,否则会影响操作结果的正确性。

2.1 数据处理流程

  1. 将文件里的内容逐行取出放进模式空间里
  2. 在模式空间里匹配条件进行数据处理
  3. 处理完之后从模式空间中取出输出到屏幕
  4. 保留空间

2.2 工作流程

sed 的工作流程主要包括读取、执行和显示三个过程:

  • 读取:sed 从输入流(文件、管道、标准输入)中读取一行内容并存储到临时的缓冲区中(又称模式空间,pattern space)。
  • 执行:默认情况下,所有的 sed 命令都在模式空间中顺序地执行,除非指定了行的地址,否则 sed 命令将会在所有的行上依次执行。
  • 显示:发送修改后的内容到输出流。在发送数据后,模式空间将会被清空。

在所有的文件内容都被处理完成之前,上述过程将重复执行,直至所有内容被处理完。

2.3 sed原理详细过程

  1. 读入新的一行内容到缓存空间;
  2. 从指定的操作指令中取出第一条指令,判断是否匹配pattern;
  3. 如果不匹配,则忽略后续的编辑命令,回到第2步继续取出下一条指令;
  4. 如果匹配,则针对缓存的执行后续的编辑命令;完成后,回到第2步继续取出下一条指令;
  5. 当所有指令都应用之后,输出缓存行的内容;回到第1步继续读入下一行内容;
  6. 当所有行都处理完之后,结束;

注意:默认情况下所有的 sed 命令都是在模式空间内执行的,因此输入的文件不会发生任何变化,除非是用重定向存储输出。

3. sed 命令常见用法

- `sed [选项] 操作 参数`
- `sed [选项] -f scriptfile 参数`

3.1 详细版sed命令选项

常见的 sed 命令选项主要包含以下几种:

  • -e--expression=:表示用指定命令或者脚本来处理输入的文本文件。
  • -f--file=:表示用指定的脚本文件来处理输入的文本文件。
  • -h--help=:显示帮助。
  • -n--quietsilent=:表示仅显示处理后的结果。
  • -i.bak=:直接编辑文本文件。
  • -r-E:使用扩展正则表达式。
  • -s:将多个文件视为独立文件,而不是单个连续的长文件流。

“操作”用于指定对文件操作的动作行为,也就是 sed 的命令。通常情况下是采用的[n1[,n2]]操作参数的格式。n1、n2 是可选的,代表选择进行操作的行数,如操作需要在 5~20 行之间进行,则表示为 5,20 动作行为。常见的操作包括以下几种:

  • a:增加,在当前行下面增加一行指定内容。
  • c:替换,将选定行替换为指定内容。
  • d:删除,删除选定的行。
  • i:插入,在选定行上面插入一行指定内容。
  • p:打印,如果同时指定行,表示打印指定行;如果不指定行,则表示打印所有内容;如果有非打印字符,则以 ASCII 码输出。其通常与“-n”选项一起使用。
  • s:替换,替换指定字符。
  • y:字符转换。

3.2 简版理解命令选项

选项含义
-e进行多次编辑
-n取消默认输出
-f指定sed文件名
-i直接在源文件中修改
-r使用扩展正则表达式

sed常用命令动作

命令动作含义
p打印输出
d删除指定行
i在指定行之前插入内容
a在指定行后面插入内容
c替换指定行所有内容
s搜索替换

3.3 sed 命令用法示例

在本小节中依旧以 demo 文件为例进行演示。


he was short and fat.
He was wearing a blue polo shirt with black pants.
The home of Football on BBC Sport online.
the tongue is boneless but it breaks bones.12!
google is the best tools for search keyword.
The year ahead will test our political establishment to the limit.
PI=3.141592653589793238462643383249901429
a wood cross!
Actions speak louder than words


#woood #
#woooooood 
# AxyzxyzxyzxyzC
I bet this place is really spooky late at night!
Misfortunes never come alone/single.

3.3.1 输出符合条件的文本(p 表示正常输出)

示例1:

sed -n 'p' demo                  # 输出所有内容,等同于 cat demo
sed -n '3p' demo                 # 输出第 3 行
sed -n '3,5p' demo               # 输出 3~5 行
sed -n 'p;n' demo                # 输出所有奇数行,表示读入下一行资料
sed -n 'n;p' demo                # 输出所有偶数行,表示读入下一行资料
sed -n '1,5{p;n}' demo           # 输出第 1~5 行之间的奇数行(第 1、3、5 行)
sed -n '10,$ {n;p}' demo         # 输出第 10 行至文件尾之间的偶数行
sed -n 'p' demo                  # 输出所有内容,等同于 cat demo

在这里插入图片描述

sed -n '3p' demo.sh                 # 输出第 3 行

在这里插入图片描述

sed -n '3,5p' demo,sh               # 输出 3~5 行

在这里插入图片描述

sed -n 'p;n' demo.sh                # 输出所有奇数行,表示读入下一行资料

在这里插入图片描述

sed -n 'n;p' demo.sh                # 输出所有偶数行,表示读入下一行资料

在这里插入图片描述

sed -n '1,5{p;n}' demo.sh           # 输出第 1~5 行之间的奇数行(第 1、3、5 行)

在这里插入图片描述

sed -n '10,$ {n;p}' demo.sh         # 输出第 10 行至文件尾之间的偶数行

在这里插入图片描述

示例2:

ifconfig ens33 | sed -n '2p'     # 直接显示第二行内容

在这里插入图片描述

注意:在执行sed -n '10,$n;p' demo命令时,读取的第 1 行是文件的第 10 行,读取的第 2 行是文件的第 11 行。依此类推,所以输出的偶数行是文件的第 11 行、13 行直至文件结尾,其中包括空行。

3.3.2 sed 命令结合正则表达式

sed 命令结合正则表达式时,格式略有不同,正则表达式以“/”包围。例如,
以下操作是 sed 命令与正则表达式结合使用的示例。

sed -n '/the/p' demo             # 输出包含 the 的行
sed -n '4,/the/p' demo           # 输出从第 4 行至第一个包含 the 的行
sed -n '/the/=' demo             # 输出包含 the 的行所在的行号
sed -n '/^PI/p' demo             # 输出以 PI 开头的行
sed -n '/[0-9]$/p' demo          # 输出以数字结尾的行
sed -n '/\<wood\>/p' demo        # 输出包含单词 wood 的行

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3.3.3 删除符合条件的文本 (d)

因为后面的示例还需要使用测试文件 demo,所以在执行删除操作之前需要先将测试文件备份。以下示例分别演示了 sed 命令的几种常用删除用法。

下面命令中 nl 命令用于计算文件的行数,结合该命令可以更加直观地查看到命令执行的结果。

示例1:

nl demo.sh  ## 统计文件行数

在这里插入图片描述

nl demo | sed '3d'               # 删除第 3 行
nl demo | sed '3,5d'             # 删除第 3~5 行
nl demo | sed '/cross/d'         # 删除匹配所有包含 cross 的行
sed '/^[a-z]/d' demo             # 删除以小写字母开头的行
sed '/\.$/d' demo                # 删除以"."结尾的行
sed '/^$/d' demo                 # 删除所有空行
nl demo | sed '3d'               # 删除第 3 行

在这里插入图片描述

nl demo | sed '3,5d'             # 删除第 3~5 行

在这里插入图片描述

nl demo | sed '/cross/d'         # 删除匹配所有包含 cross 的行

在这里插入图片描述

sed '/^[a-z]/d' demo             # 删除以小写字母开头的行

在这里插入图片描述

sed '/\.$/d' demo                # 删除以"."结尾的行

在这里插入图片描述

sed '/^$/d' demo                 # 删除所有空行

在这里插入图片描述

注意:若是删除重复的空行,即连续的空行只保留一个,可使用cat -s demo

3.3.4 替换符合条件的文本

在使用 sed 命令进行替换操作时需要用到 s(字符串替换)、c(整行/整块替换)、y(字符转换)命令选项,常见的用法如下所示。

示例1:

sed 's/the/THE/' demo            # 将每行中的第一个the 替换为 THE
sed 's/1/L/2' demo               # 将每行中的第 2 个 1 替换为 L
sed 's/the/THE/g' demo           # 将文件中的所有the 替换为 THE
sed 's/o//g' demo                # 将文件中的所有o 删除(替换为空串)
sed 's/^/#/' demo                # 在每行行首插入#号
sed '/the/s/^/#/' demo           # 在包含the 的每行行首插入#号
sed 's/$/EOF/' demo              # 在每行行尾插入字符串EOF
sed '3,5s/the/THE/g' demo        # 将第 3~5 行中的所有 the 替换为 THE
sed '/the/s/o/O/g' demo          # 将包含the 的所有行中的 o 都替换为 O
sed -i.bak 's/SELINUX=disabled/SELINUX=enable/' /etc/selinux/config
sed 's/the/THE/' demo.sh            # 将每行中的第一个the 替换为 THE

在这里插入图片描述

sed 's/1/L/2' demo.sh               # 将每行中的第 2 个 1 替换为 L

在这里插入图片描述

sed 's/the/THE/g' demo.sh           # 将文件中的所有the 替换为 THE

在这里插入图片描述

sed 's/o//g' demo.sh                # 将文件中的所有o 删除(替换为空串)

在这里插入图片描述

sed 's/^/#/' demo,sh                # 在每行行首插入#号

在这里插入图片描述

sed '/the/s/^/#/' demo.sh           # 在包含the 的每行行首插入#号

在这里插入图片描述

sed 's/$/EOF/' demo.sh              # 在每行行尾插入字符串EOF

在这里插入图片描述

sed '3,5s/the/THE/g' demo.sh        # 将第 3~5 行中的所有 the 替换为 THE

在这里插入图片描述

sed '/the/s/o/O/g' demo.sh          # 将包含the 的所有行中的 o 都替换为 O

在这里插入图片描述

3.3.5 迁移符合条件的文本

在使用 sed 命令迁移符合条件的文本时,常用到以下参数:

快捷键功能描述
H复制到剪贴板
g将剪贴板数据覆盖至指定行
G将剪贴板数据追加至指定行
w保存为文件
r读取指定文件
a追加指定内容
I忽略大小写(通常用于搜索或匹配场景)

示例1:

sed '/the/{H;d};$G' demo.sh                  # 将包含the 的行迁移至文件末尾
sed '1,5{H;d};17G' demo.sh                   # 将第 1~5 行内容转移至第 17 行后
sed '/the/w out.file' demo.sh                # 将包含the 的行另存为文件 out.file
sed '/the/r /etc/hostname' demo.sh           # 将文件/etc/hostname 的内容添加到包含 the 的每行以后
sed '3aNew' demo.sh                          # 在第 3 行后插入一个新行,内容为New
sed '/the/aNew' demo.sh                      # 在包含the 的每行后插入一个新行,内容为 New
sed '3aNew1\nNew2' demo.sh                   # 在第 3 行后插入多行内容,中间的\n 表示换行
sed '/the/{H;d};$G' demo.sh                  # 将包含the 的行迁移至文件末尾

在这里插入图片描述

sed '1,5{H;d};17G' demo.sh                   # 将第 1~5 行内容转移至第 17 行后

在这里插入图片描述

sed '/the/w out.file' demo.sh                # 将包含the 的行另存为文件 out.file

在这里插入图片描述

sed '/the/r /etc/hostname' demo.sh           # 将文件/etc/hostname 的内容添加到包含 
the 的每行以后

在这里插入图片描述

sed '3aNew' demo.sh                          # 在第 3 行后插入一个新行,内容为New

在这里插入图片描述

sed '/the/aNew' demo.sh                      # 在包含the 的每行后插入一个新行,内容为 
New

在这里插入图片描述

sed '3aNew1\nNew2' demo.sh                   # 在第 3 行后插入多行内容,中间的\n 表示换行

在这里插入图片描述

3.3.6 使用脚本编辑文件

使用 sed 脚本将多个编辑指令存放到文件中(每行一条编辑指令),通过“-f”选项来调用。

例如执行以下命令即可将第 1~5 行内容转移至第 16 行后。

示例1:

sed '1,5{H;d};16G' demo           # 将第 1~5 行内容转移至第 16 行后

在这里插入图片描述

以上操作可以改用脚本文件方式:

vi opt.list
1,5H
1,5d
16G

sed -f opt.list demo

| 表示上一条命令执行失败后,才执行下一条命令。

4. 生产扩展

4.1 sed 直接操作文件示例

案例1:修改IP地址

需求:需要将ens33网络接口的IP地址修改为 192.168.10.100

sed -i 's/^IPADDR=.*/IPADDR=192.168.10.100/' /etc/sysconfig/network-scripts/ifcfg-ens33

案例2:修改Apache配置

需求:需要将 Apache 的监听地址修改为 192.168.10.100,端口修改为 8080

# 修改监听地址
sudo sed -i 's/^Listen .*/Listen 192.168.10.100:8080/' /etc/httpd/conf/httpd.conf

# 修改 ServerName
sed -i 's/^#ServerName .*/ServerName 192.168.10.100:8080/' /etc/httpd/conf/httpd.conf

案例3:编写vsftpd配置脚本

编写一个脚本,用来调整 vsftpd 服务配置,要求禁止匿名用户,但允许本地用户(也允许写入)。

vim local_only_ftp.sh

脚本内容:

#!/bin/bash
# 指定样本文件路径、配置文件路径
SAMPLE="/usr/share/doc/vsftpd-3.0.2/EXAMPLE/INTERNET_SITE/vsftpd.conf"
CONFIG="/etc/vsftpd/vsftpd.conf"

# 备份原来的配置文件,若不存在则使用 cp 命令进行备份
[ ! -e "$CONFIG.bak" ] && cp $CONFIG $CONFIG.bak

# 基于样本配置进行调整,覆盖现有文件
sed -e '/anonymous_enable/s/YES/NO/g' $SAMPLE > $CONFIG

sed -i -e '/local_enable/s/NO/YES/g' -e '/write_enable/s/NO/YES/g' $CONFIG
grep "listen" $CONFIG || sed -i '$alisten=YES' $CONFIG

# 启动vsftpd 服务,并设为开机后自动运行
systemctl restart vsftpd
systemctl enable vsftpd

赋予执行权限:

chmod +x local_only_ftp.sh

4.2 分组操作

当我们需要对一行数据进行多次操作的时候我们可以使用{}进行分组。

示例:

sed '/root/{s/root/ROOT/;s/x/X/g}' /tmp/passwd
sed -ne '/root/{s/root/ROOT/;s/x/X/g}' -ne '1,10p' /tmp/passwd
echo 123abcxyz | sed -r 's/(123)(abc)(xyz)/\1/'    # 分组 s//代表查找替换()代表分组 \1 代表留下的组
ifconfig ens33 | sed -rn '2s/.*inet ([0-9.]+).*/\1/p'
sed -r 's/[[:space:]]*/#/' /etc/hosts.bak

总结

sed通过模式空间和保留空间实现文本流的非交互式编辑。处理流程分为三个阶段:逐行读取内容到模式空间,匹配条件后执行编辑命令,最后输出结果并清空缓冲区。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值