Linux 的 awk 命令相信不少人都用过,但是真正研究它的人应该不多。因为,我们多数人都是面向百度编程的。今天我们抽个时间,简单的来说一下它。
我随便谷歌了一下,就找到了两位大神的文章,相信不少人都认识。
我的文章也是以他们的为参考,并加入了一些内容。
awk 是处理文本文件的一个应用程序,几乎所有 Linux 系统都自带这个程序。
之所以叫 AWK 是因为其取了三位创始人 Alfred Aho,Peter Weinberger, 和 Brian Kernighan 的 Family Name 的首字符。
awk 语法
awk [选项参数]
'script'
var=value file(s)
或
awk [选项参数]
-f scriptfile var=value file(s)
选项参数说明:
基本用法
我们以 xttblog.txt 文件内容为例。
2
this is a test
3
Are you like awk
5 www.xttblog.com,业余草
This's a test
10
There are orange,apple,mongo
当执行 awk '{print $1,$4}' xttblog.txt 命令后,会出现一下内容。
上面的例子是,每行按空格或TAB分割,输出文本中的1、4项。awk '{printf "%-8s %-10s\n",$1,$4}' xttblog.txt 是针对输出的内容进行格式化显示。
我们再看一个指定分隔符的例子:
awk -F #-F相当于内置变量FS, 指定分割字符
使用","分割。
$ awk -F,
'{print $1,$2}' xttblog.txt
2
this
is a test
3
Are you like awk
5 www.xttblog.com 业余草
This's a test
10 There are orange apple
使用内置变量。
$ awk 'BEGIN{FS=","} {print $1,$2}' xttblog.txt
2
this
is a test
3
Are you like awk
5 www.xttblog.com 业余草
This's a test
10 There are orange apple
使用多个分隔符。先使用空格分割,然后对分割结果再使用","分割。
$ awk -F '[ ,]'
'{print $1,$2,$5}' xttblog.txt
2
this test
3
Are awk
5 www.xttblog.com
This's a
10 There apple
下面再看一个设置变量的用法。设置变量我们使用 awk -v
$ awk -v a=1
'{print $1,$1+a}' xttblog.txt
2
3
3
4
5
6
This's 1
10 11
设置两个变量的例子。
$ awk -v a=1
-v b=s '{print $1,$1+a,$1b}' xttblog.txt
2
3
2s
3
4
3s
5
6
5s
This's 1 This'ss
10
11
10s
awk 的强大之处还在于它之处 awk 脚本。
$ awk -f {awk脚本} {文件名}
同时还支持运算符。
举例:过滤第一列大于 2 的行。
$ awk '$1>2' xttblog.txt
3
Are you like awk
5 www.xttblog.com,业余草
This's a test
10 There are orange,apple,mongo
过滤第一列等于 2 的行。
$ awk '$1==2 {print $1,$3}' xttblog.txt
2
is
过滤第一列大于 2 并且第二列等于'Are'的行。
$ awk '$1>2 && $2=="Are" {print $1,$2,$3}' xttblog.txt
3
Are you
awk 还支持内建变量。
$ awk 'BEGIN{printf "%4s %4s %4s %4s %4s %4s %4s %4s %4s\n","FILENAME","ARGC","FNR","FS","NF","NR","OFS","ORS","RS";printf "---------------------------------------------\n"} {printf "%4s %4s %4s %4s %4s %4s %4s %4s %4s\n",FILENAME,ARGC,FNR,FS,NF,NR,OFS,ORS,RS}' xttblog.txt
FILENAME ARGC FNR FS NF NR OFS ORS RS
---------------------------------------------
xttblog.txt 2
1
5
1
xttblog.txt 2
2
5
2
xttblog.txt 2
3
2
3
xttblog.txt 2
4
3
4
xttblog.txt 2
5
4
5
输出顺序号 NR, 匹配文本行号。
$ awk '{print NR,FNR,$1,$2,$3}' xttblog.txt
1
1
2
this
is
2
2
3
Are you
3
3
5 www.xttblog.com,业余草
4
4
This's a test
5 5 10 There are
指定输出分割符。
$ awk '{print $1,$2,$5}' OFS=" $ " xttblog.txt
2 $ this $ test
3 $ Are $ awk
5 $ www.xttblog.com,业余草 $
This's $ a $
10 $ There $
awk 还支持正则,字符串匹配。
输出第二列包含 "th",并打印第二列与第四列。
$ awk '$2 ~ /th/ {print $2,$4}' xttblog.txt
this a
上面的命令中,~ 表示模式开始。// 中是模式。
下面再看一个输出包含"," 的行。
$ awk '/,/ ' xttblog.txt
5 www.xttblog.com,业余草
10
There are orange,apple,mongo
awk 忽略大小写。
$ awk 'BEGIN{IGNORECASE=1} /this/' xttblog.txt
2
this
is a test
awk 模式取反。
$ awk '$2 !~ /th/ {print $2,$4}' xttblog.txt
Are like
www.xttblog.com,业余草
a
There orange,apple,mongo
$ awk '!/th/ {print $2,$4}' xttblog.txt
Are like
www.xttblog.com,业余草
a
There orange,apple,mongo
awk 还支持 awk 脚本。脚本文件以 .awk 结尾。
awk 脚本有两个重要的关键词 BEGIN 和 END。
下面看一个简单的 xttblog.awk 脚本。
#!/bin/awk -f
#运行前
BEGIN
{
math =
0
english =
0
computer =
0
printf "NAME NO. MATH ENGLISH COMPUTER TOTAL\n"
printf "---------------------------------------------\n"
}
#运行中
{
math+=$3
english+=$4
computer+=$5
printf "%-6s %-6s %4d %8d %8d %8d\n", $1, $2, $3,$4,$5, $3+$4+$5
}
#运行后
END
{
printf "---------------------------------------------\n"
printf " TOTAL:%10d %8d %8d \n", math, english, computer
printf "AVERAGE:%10.2f %8.2f %8.2f\n", math/NR, english/NR, computer/NR
}
这个脚本看起来代码比较多,我们看一个 hello world 脚本。
echo | awk '{print "Hello,World!"}'
echo | awk 'BEGIN {print "Hello,World!"}'
awk 'BEGIN {print "Hello,World!"}'
echo "hello world"
| awk '{print}'
awk 非常的强大,适合运维,Java 开发人员上手学习!建议大家收藏本文!