linux命令--sed命令

一、简介
sed是非交互式的编辑器。它不会修改文件，除非使用shell重定向来保存结果。默认情况下，所有的输出行都被打印到屏幕上。Sed主要用来自动编辑一个或多个文件；简化对文件的反复操作；编写转换程序等。

sed编辑器逐行处理文件（或输入），并将结果发送到屏幕。具体过程如下：首先sed把当前正在处理的行保存在一个临时缓存区中（也称为模式空间），然后处理临时缓冲区中的行，完成后把该行发送到屏幕上。sed每处理完一行就将其从临时缓冲区删除，然后将下一行读入，进行处理和显示。处理完输入文件的最后一行后，sed便结束运行。sed把每一行都存在临时缓冲区中，对这个副本进行编辑，所以不会修改原文件。

二、定址 

定址用于决定对哪些行进行编辑。地址的形式可以是数字、正则表达式、或二者的结合。如果没有指定地址，sed将处理输入文件的所有行。 地址是一个数字，则表示行号；是“$"符号，则表示最后一行。
例如： sed -n '3p' datafile 只打印第三行

只显示指定行范围的文件内容，例如：

# 只查看文件的第100行到第200行
sed -n '100,200p' mysql_slow_query.log
 

地址是逗号分隔的，那么需要处理的地址是这两行之间的范围（包括这两行在内）。范围可以用数字、正则表达式、或二者的组合表示。例如：

sed '2,5d' datafile
#删除第二到第五行
sed '/My/,/You/d' datafile
#删除包含"My"的行到包含"You"的行之间的行
sed '/My/,10d' datafile
#删除包含"My"的行到第十行的内容

三、命令与选项

sed命令告诉sed如何处理由地址指定的各输入行，如果没有指定地址则处理所有的输入行。

调用sed命令有两种形式：  
sed [options] 'command' file(s)  
sed [options] -f scriptfile file(s)  

选项
-n 安静模式，在sed处理的时候，所有来自STDIN的数据都会被输出到终端，加上-n会只输出处理的哪行
-e 直接在命令列上进行sed动作编辑
-f 直接将sed的动作写在文件内
-r sed动作支持延伸的正则表达（默认只是基础正则）
-i 直接修改文件内容（慎用，尤其是用系统文件做练习的时候）

命令

a 在当前行后添加一行或多行。多行时除最后一行外，每行末尾需用“\”续行
b lable 分支到脚本中带有标记的地方，如果分支不存在则分支到脚本的末尾。
c 用此符号后的新文本替换当前行中的文本。多行时除最后一行外，每行末尾需用"\"续行
i 在当前行之前插入文本。多行时除最后一行外，每行末尾需用"\"续行
d 从模板块（Pattern space）位置删除行
D 删除模板第一行
i 在当前行上面插入文本。
h 把模板空间里的内容复制到暂存缓冲区
H 把模板空间里的内容追加到暂存缓冲区
g 把暂存缓冲区里的内容复制到模板空间，覆盖原有的内容
G 把暂存缓冲区的内容追加到模式空间里，追加在原有内容的后面
l 列出非打印字符
n 读入下一输入行，并从下一条命令而不是第一条命令开始对其的处理
N 追加下一个输入行到模板块后面并在二者间嵌入一个新行，改变当前行号码。
q 结束或退出sed

r 从文件中读取输入行
! 对所选行以外的所有行应用命令
s 用一个字符串替换另一个 如s/re/string,用string替换正则表达式re。
g 在行内进行全局替换

w 写并追加模板块到file末尾。将所选的行写入文件
W 写并追加模板块的第一行到file末尾。
x 交换暂存缓冲区与模板空间的内容
y 将字符替换为另一字符（不能对正则表达式使用y命令）
p 打印行，常与-n一起用

= 打印当前行号码。
# 把注释扩展到下一个换行符以前
t if分支，从最后一行开始，条件一旦满足或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。
T 错误分支，从最后一行开始，一旦发生错误或者T，t命令，将导致分支到带有标号的命令处，或者到脚本的末尾。

四、正则表达式元字符
 与grep一样，sed也支持特殊元字符，来进行模式查找、替换。不同的是，sed使用的正则表达式是括在斜杠线"/"之间的模式。
如果要把正则表达式分隔符"/"改为另一个字符，比如o，只要在这个字符前加一个反斜线，在字符后跟上正则表达式，再跟上这个字符即可。例如：sed -n '\o^Myop' datafile
 

 

   五、脚本

   sed脚本就是写在文件中的一列sed命令，启动Sed时以-f选项引导脚本文件名。。脚本中，要求命令的末尾不能有任何多余的空格或文本。如果在一行中有多个命令，要用分号分隔。以#开头的行为注释行，且不能跨行。执行脚本时，sed先将输入文件中第一行复制到模式缓冲区，然后对其执行脚本中所有的命令。每一行处理完毕后，sed再复制文件中下一行到模式缓冲区，对其执行脚本中所有命令。使用sed脚本时，不再用引号来确保sed命令不被shell解释。

  例如sed脚本script：

#handle datafile
3i\
~~~~~~~~~~~~~~~~~~~~~
3,$s/\(hrwang\) is \(mjfan\)/\2 is \1/
$a\
We will love eachother forever！！

#sed -f script datafile
My name is hrwang
Your name is mjfan
~~~~~~~~~~~~~~~~~~~~~
mjfan is hrwang's husband. ＃啦啦～～～
mjfan is hrwang's wife.
We will love eachother forever！！

 

六、范例
 
6.1 p命令
命令p用于显示模式空间的内容。默认情况下，sed把输入行打印在屏幕上，选项-n用于取消默认的打印操作。当选项-n和命令p同时出现时,sed可打印选定的内容。
 
sed '/my/p' datafile
#默认情况下，sed把所有输入行都打印在标准输出上。如果某行匹配模式my，p命令将把该行另外打印一遍。

sed -n '/my/p' datafile
#选项-n取消sed默认的打印，p命令把匹配模式my的行打印一遍。
 

6.2 删除：d命令

命令d用于删除输入行。sed先将输入行从文件复制到模式空间里，然后对该行执行sed命令，最后将模式空间里的内容显示在屏幕上。如果发出的是命令d，当前模式空间里的输入行会被删除，不被显示。

sed '$d' datafile  
#删除最后一行，其余的都被显示

    sed '2d' datafile

    #删除example文件的第二行。 

    sed '2,$d' datafile

    #删除example文件的第二行到末尾所有行。

sed '/my/d' datafile  
#删除包含my的行，其余的都被显示 

6.3 替换：s命令

sed 's/^My/You/g' datafile
#整行范围内替换。命令末端的g表示在行内进行全局替换，也就是说如果某行出现多个My，所有的My都被替换为You。如果没有g标记，则只有每行第一个匹配的my被替换。

sed -n '1,20s/My$/You/gp' datafile
#取消默认输出，处理1到20行里匹配以My结尾的行，把行内所有的My替换为You，并打印到屏幕上。(-n)选项和p标志一起使用表示只打印那些发生替换的行
  
sed 's#My#Your#g' datafile
#紧跟在s命令后的字符就是查找串和替换串之间的分隔符。分隔符默认为正斜杠，但可以改变。无论什么字符（换行符、反斜线除外），只要紧跟s命令，就成了新的串分隔符。

sed -n 's/\(love\)able/\1rs/p' datafile
# love被标记为1，所有loveable会被替换成lovers，而且替换的行会被打印出来。

sed 's/^192.168.0.1/&localhost/' datefile
# &符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加 localhost，变成192.168.0.1localhost

6.4 多点编辑：e选项

-e是编辑命令，用于sed执行多个编辑任务的情况下。在下一行开始编辑前，所有的编辑动作将应用到模式缓冲区中的行上。

sed -e '1,10d' -e 's/My/Your/g' datafile
#选项-e用于进行多重编辑。第一重编辑删除第1-3行。第二重编辑将出现的所有My替换为Your。因为是逐行进行这两项编辑（即这两个命令都在模式空间的当前行上执行），所以编辑命令的顺序会影响结果。

sed --expression='s/test/check/' --expression='/love/d' example
# 一个比-e更好的命令是--expression。它能给sed表达式赋值。 

6.5 从文件读入：r命令

r命令是读命令。sed使用该命令将一个文本文件中的内容加到当前文件的特定位置上。

sed '/My/r introduce.txt' datafile
#如果在文件datafile的某一行匹配到模式My，就在该行后读入文件introduce.txt的内容。如果出现My的行不止一行，则在出现My的各行后都读入introduce.txt文件的内容。
 
6.6 写入文件：w命令
sed -n '/hrwang/w me.txt' datafile
 

6.7 追加命令：a\ 命令

a\ 命令是追加命令，追加将添加新文本到文件中当前行（即读入模式缓冲区中的行）的后面。所追加的文本行位于sed命令的下方另起一行。如果要追加的内容超过一行，则每一行都必须以反斜线结束，最后一行除外。最后一行将以引号和文件名结束。

sed '/^hrwang/a\
>hrwang and mjfan are husband\
>and wife' datafile
#如果在datafile文件中发现匹配以hrwang开头的行，则在该行下面追加hrwang and mjfan are husband and wife
 

6.8 插入：i\ 命令

i\ 命令是在当前行的前面插入新的文本。

 

6.9 c\ 命令

sed使用该命令将已有文本修改成新的文本。
 

6.10 下一个：n命令

sed使用该命令获取输入文件的下一行，并将其读入到模式缓冲区中，任何sed命令都将应用到匹配行紧接着的下一行上。

sed '/hrwang/{n;s/My/Your/;}' datafile
注：如果需要使用多条命令，或者需要在某个地址范围内嵌套地址，就必须用花括号将命令括起来，每行只写一条命令，或这用分号分割同一行中的多条命令。如果hrwang被匹配，则移动到匹配行的下一行，替换这一行的My，变为Your，并打印该行，然后继续。  
 
6.11 变形：y命令
该命令与UNIX/Linux中的tr命令类似，字符按照一对一的方式从左到右进行转换。例如，y/abc/ABC/将把所有小写的a转换成A，小写的b转换成B，小写的c转换成C。
 
sed '1,20y/hrwang12/HRWANG^$/' datafile
#将1到20行内，所有的小写hrwang转换成大写，将1转换成^,将2转换成$。
#正则表达式元字符对y命令不起作用。与s命令的分隔符一样，斜线可以被替换成其它的字符。
 

6.12 退出：q命令

q命令将导致sed程序退出，不再进行其它的处理。

sed '/hrwang/{s/hrwang/HRWANG/;q;}' datafile
 

6.13 保持和互换：h命令和g命令

#cat datafile
My name is hrwang.
Your name is mjfan.
hrwang is mjfan's husband.
mjfan is hrwang's wife.
  
sed -e '/hrwang/h' -e '$G' datafile
sed -e '/hrwang/H' -e '$G' datafile
#通过上面两条命令，你会发现h会把原来暂存缓冲区的内容清除，只保存最近一次执行h时保存进去的模式空间的内容。而H命令则把每次匹配hrwnag的行都追加保存在暂存缓冲区。
sed -e '/hrwang/H' -e '$g' datafile
sed -e '/hrwang/H' -e '$G' datafile
#通过上面两条命令，你会发现g把暂存缓冲区中的内容替换掉了模式空间中当前行的内容，此处即替换了最后一行。而G命令则把暂存缓冲区的内容追加到了模式空间的当前行后。此处即追加到了末尾。

$ sed -e '/test/h' -e '/check/x' datafile 
#互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。

6.14 选定行的范围：逗号 

    sed -n '/test/,/check/p' datafile

    #所有在模板test和check所确定的范围内的行都被打印。

sed -n '5,/^test/p' datafile
#打印从第五行开始到第一个包含以test开始的行之间的所有行。

sed '/test/,/check/s/$/sed test/' datafile
#对于模板test和west之间的行，每行的末尾用字符串sed test替换。 

sed -n '/west/,/east/p' datafile 
#表示打印所有从包含west开始到包含east的行,如果直到文件的结尾都没有包含east的行,将打印west后面的所有行.
#其实逻辑很简单, 就是sed在发现包含west行之后开发打印该行,直到发现包含east的行打印才结束,否则一直打印直到文件的末尾.

sed -n '5,/^north/p' datafile 
#表示从第五行开始打印,直到遇到以north开始的行结束打印.

 

 

有趣例子：

 

1、要将目录/modules下面所有文件中的zhangsan都修改成lisi，这样做：

sed -i "s/zhangsan/lisi/g" `grep zhangsan -rl /modules`

 

 2、如何替换\n也就是把所有的行都归为一行

 

   # sed ':a;N;$!ba;s/\n/ /g' file.txt   

   wtmp begins Mon Feb 25 14:26:08 2014 192.168.0.1 162.12.0.123 this is the last line  

   # tr "\n" " " < file.txt 

   wtmp begins Mon Feb 25 14:26:08 2014 192.168.0.1 162.12.0.123 this is the last line last linen 

   

   #pgrep java|tr "\\n" "," | sed '/s,$//' 

    1203,1205,1309

    pgrep java默认显示

    1203

    1205

    1309

    这里先转为是先转为一行的，再去掉行尾的逗号（sed '/s,$//' ）。//中第一个是正则表达式的右边界符，组合是指要替换为空。必须是//

 3、指定时间段的日志：

 sed -n '/起始时间/,/结束时间/p' 日志文件

  sed -n '/2019-10-25 06:28:00/,/2019-10-25 06:34:20/p'  nohup.out

 

 

参考资料

1、http://coolshell.cn/articles/9104.html

2、sed的手册

3、sed命令详解

4、http://blog.csdn.net/wodatoucai/article/details/64906745