9.文件处理三剑客: sed awk grep

引入

🌀我们都知道，在Linux中一切皆文件，比如配置文件，日志文件，启动文件等等

🌀如果我们相对这些文件进行一些编辑查询等操作时，我们可能会想到一些vi,vim,cat,more等命令

🌀但是这些命令效率不高，而在linux中有三种工具：顶配awk，中配sed，标配grep

🌀使用这些工具，我们能够在达到同样效果的前提下节省大量的重复性工作，提高效率

🌀文件内容可以是来自文件，也可以直接来自键盘或者管道等标准输入，最后的结果默认情况下是显示到终端的屏幕上，但是也可以输出到文件中

🌀编辑文件也是这样，以前我们修改一个配置文件，需要移动光标到某一行，然后添加点文字，然后又移动光标到另一行，注释点东西.......可能修改一个配置文件下来需要花费数十分钟，还有可能改错了配置文件，又得返工

🌀这还是一个配置文件，如果数十个数百个呢？因此当你学会了sed命令，你会发现利用它处理文件中的一系列修改是很有用的

🌀只要想到在大约100多个文件中，处理20个不同的编辑操作可以在几分钟之内完成，你就会知道sed的强大了✅

🔵天然支持管道

一.文本处理之sed

1.什么是sed

sed 被称为流式编辑器
主要擅长对文件的编辑操作
用法 : 事先制定好编辑文件的规则, 然后让sed自动完成对文件的整体编辑

2.为什么用sed (与vim对比)

处理多个文件时

"sed"可以把处理文件的规则事先写好,然后用同一套规则编辑多个文件 🔴而"vim"只能一个一个编辑

处理大文件时

"sed"处理文件一次只处理一行, 即同一时间内存中只有文件的一行内容, 无论文件多大, 都不会对内存造成过大的压力 🔴而"vim"是将文件所有内容一次性读入内存

3.sed的工作原理

sed 读取一行, 首先将这行放入到缓存中
然后对其进行规则处理
处理完成后才将缓存区的内容发送到终端屏幕
存储 sed 读取到的内容的缓存区空间称之为 : 模式空间

4.怎么用sed

语法结构

sed [选项] '[规则]' [文件] #规则建议用单引号操作 sed [选项] '[定位命令]' [文件]

常用选项

选项	功能
-n	取消默认输出
-i	直接修改文件内容 (规则处理的结果 + 默认输出的结果) 覆盖入文件, 而不是输出

ps : 如果不使用 -i 选项 sed 软件只是修改在内存中的数据，并不会影响磁盘上的文件

规则 (定位 + 命令)
- 行号定位
⛅不填定位默认匹配所有行 sed '1p' a.txt #打印第一行(这里是定位了第一行) sed '1,3p' a.txt #定位了 1~3 行 sed '1p;3p' a.txt #定位了第一行和第三行(命令与命令用";"隔开)
- 正则定位
sed '/^song/p' a.txt #匹配以"song"开头的行并打印 sed '/song$/p' a.txt #匹配以"song"结尾的行并打印 sed '/^song$/p' a.txt #只匹配"song"并打印命令
常用命令

命令	功能
p	打印模式空间的内容
d	删除指定的行
i	插入, 在指定行前面添加一行或者多行
s///gi	替换字符

5.应用示例

sed '2p' a.txt

定位第二行并打印运行的效果是 "默认输出" + "规则 p 输出"

加入 "-n" 选项来阻止默认输出

可能你只想显示你定位的那行运行命令的结果这是你就可以用到 "-n" 选项了

sed '2,5p' a.txt

定位 2~5 行并打印

sed "3d;5d;7d" a.txt

定位 3, 5 ,7行并删除注意:每一个命令需要用 ";" 隔开

加入 "-i" 选项让修改内容写入文件

以上操作没有加入 "-i" 选项, 其实并没有写入到文件里面只是将处理结果输出到屏幕上了 (适合调试的时候) 想将命令结果写入文件需要用到 "-i" 选项

sed -i '/^song/s/song/xing/g' a.txt

匹配以 "song" 开头的行, 然后把 "song" 替换成 "xing" "-i" 将结果写入文件

加入 "i" 选项不区分大小写替换

sed -i 's/^song/xing/gi' a.txt 在 "g" 的后面加了 "i"

ifconfig ens32 | sed 's/ens32/shawn/g'

将 'ens32' 网卡信息放入管道然后 "sed" 从管道中拿出结果进行下一步操作(这里事替换掉网卡名字)

取反操作 "!"

sed -n '1,3!p' a.txt #取除了1~3的行

二.文件处理之awk

1.AWK

主要擅长处理有规律的文本, 主要用于一些格式化处理
awk不仅仅是 linux系统中的一个命令，而且是一种编程语言，可以用来处理数据和生成报告（excel）
处理的数据可以是一个或多个文件，可以是来自标准输入，也可以通过管道获取标准输入
awk可以在命令行上直接编辑命令进行操作，也可以编写成awk程序来进行更为复杂的运用。

2.用法

语法结构

awk [选项] '[规则]' [文件路径] awk [选项] '[定位{命令}]' [文件路径]

awk选项

-F[指定分隔符] -F: #以冒号分隔 -F" " #以空格分隔 -F #没写默认以空格分隔

规则 (定位 + 命令)
- 行号定位
⛅"NR"代表行 ⛅"NF"代表最后一段的段号 ⛅"$1"代表分隔的第一段,2,3...类似 ⛅"$0"代表着整行(所有段) awk -F: 'NR == 3{print $1,$3}' b.txt #以":"分隔每行,并选择打印第三行的1和3段 awk -F: 'NR >= 3 && NR <= 8{print $1,$3}' b.txt #大于3并且小于8的行的1和3段 awk -F: 'NR <= 3 || NR >= 8{print $1,$3}' b.txt #小于3或者大于8的行的1和3段 awk -F: 'NR == 3 || NR == 8{print $1,$3}' b.txt #第 3 行和第 8 行的1和3 段
- 正则定位
"$0"代表着整行(所有段) awk -F: '/^root/{print $0}' b.txt #匹配以root开头的行,然后打印整行 awk -F: '/bash$/{print $1,$2}' b.txt #匹配以bash结尾的行,然后打印1,2duan
命令