awk 概述及常用方法总结

awk 简介

awk是一个文本处理工具，通常用于处理数据并生成结果报告，

awk的命名是它的创始人 Alfred Aho、Peter Weinberger和Brian Kernighan 姓氏的首个字母组成的。

awk的工作模式

 

语法格式

 

第一种形式： 基于文件

awk 'BEGIN{}pattern{commands}END{}' file_name

　　

第二种形式： 基于标准命令格式

standard output | awk 'BEGIN{}pattern{commands}END{}'

 

语法格式说明

 

 

awk的内置变量

内置变量对照表

 

    内置变量：
        $0                    打印行所有信息
        $1~$n                    打印行的第1到n个字段信息
        NF Number Field                处理行的字段个数
        NR Number Row                处理行的行号
        FNR File Number Row            多文件处理时，每个文件单独记录行号
        FS Field Separator            字段分隔符，不指定时默认以空格或tab键分割
        RS Row Separator            行分隔符，不指定时以回车换行分割
        OFS Output Filed Separator        输出字段分隔符
        ORS Output Row Separator        输出行分隔符
        FILENAME                处理文件的文件名
        ARGC                    命令行参数个数
        ARGV                    命令行参数数组

　　

输出整行数据

awk '{print $0}' passwd 

 

FS指定分隔符为 : 输出所有行第一个字段

awk 'BEGIN{FS=":"}{print $1}' passwd

 

默认以空格或者tab为分隔符

list

Hadoop Spark Flume
Java Python Scala
Allen Mike Meggie

　　

以空格为分隔符， 输出第一个字段

awk 'BEGIN{FS=" "}{print $1}' list

 

 NF 输出每一行的字段个数

awk '{print NF}' list

 

NR 输出行号，处理多个文件(list,passwd,/etc/fstab) 时行号累加

awk '{print NR}' list passwd /etc/fstab

　　

 

FNR在处理两个文件以上时会单独计数

awk '{print FNR}' list /etc/fstab

　　

 

list

Hadoop|Spark:Flume
Java|Python:Scala:Golang
Allen|Mike:Meggie

 

以  |  符号分隔列， 输出第二个字段　　

 

以 : 符号分隔列

awk 'BEGIN{FS=":"}{print $2}' list

　

 

list

Hadoop|Spark|Flume--Java|Python|Scala|Golang--Allen|Mike|Meggie

　　

RS 指定行分隔符： --

awk 'BEGIN{RS="--"}{print $0}' list

 

awk 'BEGIN{RS="--";FS="|"}{print $3}' list 

 

ORS输出分隔符，以&连接各输出行

awk 'BEGIN{RS="--";FS="|";ORS="&"}{print $3}' list

 

字段默认分隔符是空格

awk 'BEGIN{RS="--";FS="|";ORS="&"}{print $1,$3}' list

 

OFS 指定字段分隔符为 :

awk 'BEGIN{RS="--";FS="|";ORS="&";OFS=":"}{print $1,$3}' list

 

FILENAME 文件名

awk '{print FILENAME}' list

 

list

Hadoop|Spark|Flume--Java|Python|Scala|Golang--Allen|Mike|Meggie
Test File
Line

 

输出3次文件名list，是因为没有输入匹配模式 awk默认是行处理，文本有3行，处理三次会有3次输出

awk '{print FILENAME}' list

　　

 

ARGC命令行参数个数  awk 和 list 共链各个参数

awk '{print ARGC}' list

 

awk '{print ARGC}' list /etc/fstab  这样的话就是 3 个参数

 

NF表示字段个数，NF=7 $NF表示字段的个数一般来显示最后一个字段

awk 'BEGIN{FS=":"}{print $NF}' passwd 

　　

 

awk 格式化输出 printf 

printf的格式说明符

 

 

 

 

格式化案例演示

printf默认没有分隔符

awk 'BEGIN{FS=":"}{printf $1}' passwd 

 

加入换行，格式化输出

awk 'BEGIN{FS=":"}{printf "%s\n",$1}' passwd

　　

 

使用占位符美化输出，默认是右对齐

awk 'BEGIN{FS=":"}{printf "%20s %20s\n",$1,$7}' /etc/passwd

 

- 减号是左对齐，+ 加号是右对齐

awk 'BEGIN{FS=":"}{printf "%-20s %-20s\n",$1,$7}' /etc/passwd

 

以字符串格式打印/etc/passwd中的第7个字段，以":"作为分隔符

awk 'BEGIN{FS=":"}{printf "%s\n",$7}' passwd

 

以10进制格式打印/etc/passwd中的第3个字段，以":"作为分隔符

awk 'BEGIN{FS=":"}{printf "%d\n",$3}' passwd

 

以浮点数格式打印/etc/passwd中的第3个字段，以":"作为分隔符

awk 'BEGIN{FS=":"}{printf "%0.2f\n",$3}' passwd

 

以16进制数格式打印/etc/passwd中的第3个字段，以":"作为分隔符

awk 'BEGIN{FS=":"}{printf "%x\n",$3}' passwd

 

以8进制数格式打印/etc/passwd中的第3个字段，以":"作为分隔符

awk 'BEGIN{FS=":"}{printf "%o\n",$3}' passwd

 

以科学计数法格式打印/etc/passwd中的第3个字段，以":"作为分隔符

awk 'BEGIN{FS=":"}{printf "%e\n",$3}' passwd

 

awk模式匹配的两种方法

awk  模式匹配格式对照表

 

正则匹配 RegExp

匹配/etc/passwd文件行中含有root字符串的所有行

awk 'BEGIN{FS=":"}/root/{print $0}' passwd

 

匹配/etc/passwd文件行中以nginx开头的所有行

awk '/^nginx/{print $0}' passwd

 

运算符匹配

• < 小于
• > 大于
• <= 小于等于
• >= 大于等于
• == 等于
• != 不等于
• ~ 匹配正则表达式
• !~ 不匹配正则表达式

以 : 为分隔符，匹配/etc/passwd文件中第3个字段小于50的所有行信息

awk 'BEGIN{FS=":"}$3<50{print $0}' passwd

以:为分隔符，匹配/etc/passwd文件中第3个字段大于50的所有行信息

awk 'BEGIN{FS=":"}$3>50{print $0}' passwd

 

以:为分隔符，匹配/etc/passwd文件中第7个字段为/bin/bash的所有行信息

awk 'BEGIN{FS=":"}$7=="/bin/bash"{print $0}' passwd

 

以:为分隔符，匹配/etc/passwd文件中第7个字段不为/bin/bash的所有行信息

awk 'BEGIN{FS=":"}$7!="/bin/bash"{print $0}' passwd

 

以:为分隔符，匹配/etc/passwd文件中第3个字段包含3个数字以上的所有行信息

awk 'BEGIN{FS=":"}$3 ~ /[0-9]{3,}/{print $0}' passwd

 

布尔运算符匹配

• || 或
• && 与
• ! 非

以 : 为分隔符，匹配/etc/passwd文件中包含ftp或mail的所有行信息

awk 'BEGIN{FS=":"}$1=="ftp" || $1=="mail"{print $0}' passwd

 

以:为分隔符，匹配/etc/passwd文件中第3个字段小于50并且第4个字段大于50的所有行信息

awk 'BEGIN{FS=":"}$3<50 && $4>50{print $0}' passwd

 

匹配包含 nginx 的行

awk 'BEGIN{FS=":"}/^nginx/{print $0}' passwd

 

关系运算符，uid 等于1的行

awk 'BEGIN{FS=":"}$3==1{print $0}' passwd 

　　

匹配uid（数字）为3位及以上的行

awk 'BEGIN{FS=":"}$3~/[0-9]{3,}/{print $0}' passwd 

　　

 

匹配不包含/sbin/nologin 的行

awk 'BEGIN{FS=":"}$0!~/\/sbin\/nologin/{print $0}' passwd 

 

找出 uid 小于50，且bash为 /bin/bash 的行

awk 'BEGIN{FS=":"}$3<50 && $7~/\/bin\/bash/ {print $0}' passwd