一、awk簡(jiǎn)介
awk 是一種編程語(yǔ)言,用于在linux/unix下對(duì)文本和數(shù)據(jù)進(jìn)行處理。
數(shù)據(jù)可以來自標(biāo)準(zhǔn)輸入、一個(gè)或多個(gè)文件,或其它命令的輸出。
支持用戶自定義函數(shù)和動(dòng)態(tài)正則表達(dá)式等先進(jìn)功能,是linux/unix
下的一個(gè)強(qiáng)大編程工具。
在命令行中使用,但更多是作為腳本來使用。
awk的處理文本和數(shù)據(jù)的方式是這樣的,它逐行掃描文件,從第一行到最后一行,尋找匹配的特定模式的行,并在這些行上進(jìn)行你想要的操作。如果沒有指定處理動(dòng)作,則把匹配的行顯示到標(biāo)準(zhǔn)輸出(屏幕),如果沒有指定模式,則所有被操作所指定的行都被處理。
awk分別代表其作者姓氏的第一個(gè)字母。因?yàn)樗淖髡呤侨齻€(gè)人,分別是Alfred Aho、Brian Kernighan、Peter Weinberger。
gawk是awk的GNU版本,它提供了Bell實(shí)驗(yàn)室和GNU的一些擴(kuò)展。
二、awk的兩種形式語(yǔ)法格式
awk [options] 'commands' filenames
awk [options] -f awk-script-file filanames
options:
-F對(duì)于每次處理的內(nèi)容,可以指定一個(gè)子定義的分隔符,默認(rèn)的分隔符是空白字符(空格或 tab 鍵 )
command:
BEGIN{} {} END{}
處理所有內(nèi)容之前的動(dòng)作 處理內(nèi)容中的動(dòng)作 處理所有內(nèi)容之后的動(dòng)作
示例
awk 'BEGIN{print "----開始處理了---"} {print "ok"} END{print "----都處理完畢---"}' /etc/hosts
----開始處理了---
ok
ok
ok
----都處理完畢---
BEGIN{}通常用于定義一些變量,例如BEGIN{FS=":";OFS="---"}
三、awk工作原理
awk -F: '{print $1,$3}' /etc/passwd
(1)awk,會(huì)處理文件的每一個(gè)行,每次處理時(shí),使用一行作為輸入,并將這一行賦給內(nèi)部變量$0,每一行也可稱為一個(gè)記錄,以換行符結(jié)束。
(2)然后,行被:(默認(rèn)為空格或制表符)分解成字段(或稱為域),每個(gè)字段存儲(chǔ)在已編號(hào)的變量中,從$1開始,最多達(dá)100個(gè)字段。
(3)awk如何知道用空白字符來分隔字段的呢? 因?yàn)橛幸粋€(gè)內(nèi)部變量FS來確定字段分隔符。初始時(shí),F(xiàn)S賦為空白字符。
(4)awk打印字段時(shí),將以內(nèi)置的方法使用 print 函數(shù)打印,awk 在打印出的字段間加上空格。這個(gè)空格是內(nèi)部的一個(gè)變量 OFS 輸出字段的分隔符, 逗號(hào) , 會(huì)和 OFS 進(jìn)行映射,通過 OFS 可以控制這個(gè)輸出分隔符的值。
(5)awk輸出之后,將從文件中獲取另一行,并將其存儲(chǔ)在$0中,覆蓋原來的內(nèi)容,然后將新的字符串分隔成字段并進(jìn)行處理。該過程將持續(xù)到所有行處理完畢。
==============================================================
四、記錄與字段相關(guān)內(nèi)部變量
$0:awk變量 $0 保存當(dāng)前正在處理的行內(nèi)容
NR:當(dāng)前正在處理的行是 awk 總共處理的行號(hào)。
FNR:當(dāng)前正在處理的行在其文件中的行號(hào)。
NF:每行被處理時(shí)的總字段數(shù)
FS:輸入行時(shí)的字段分隔符,默認(rèn)空格
awk 'BEGIN{FS=":"} {print $1,$3}' /etc/passwd
以:作分隔符,取第1部分和第3部分
OFS: 輸出字段分隔符,默認(rèn)是一個(gè) 空格
awk 'BEGIN{FS=":"; OFS="+++"} /^root/{print $1,$2,$3,$4}' /etc/passwd
以:做分隔符,+++代替空格連接字段,輸出1、2、3、4部分
ORS輸出記錄分隔符, 默認(rèn)是換行符.
示例
將文件每一行合并為一行(將ORS的默認(rèn)輸出換行符\n改成空格 )
awk 'BEGIN{ORS=" "} {print $0}' /etc/passwd
五、格式化輸出
printf 函數(shù)
awk -F: '{printf "%-15s %-10s %-15s\n", $1,$2,$3}' /etc/passwd
以:作分隔符,左對(duì)齊輸出1、2、3部分,且1、3部分長(zhǎng)15個(gè)字符,2部分長(zhǎng)10個(gè)字符
awk -F: '{printf "|%-15s| %-10s| %-15s|\n", $1,$2,$3}' /etc/passwd
同上,只是中間多了 | 做分隔
%s字符類型
%d 十進(jìn)制整數(shù)
%f浮點(diǎn)類型
%-15s占15字符 - 表示左對(duì)齊,默認(rèn)是右對(duì)齊
printf 默認(rèn)不會(huì)在行尾自動(dòng)換行,加 \n
六、awk模式和動(dòng)作
任何 awk 語(yǔ)句都由 模式 和 動(dòng)作 組成。
模式部分 決定動(dòng)作語(yǔ)句何時(shí)觸發(fā)及觸發(fā)事件。
如果省略模式部分,動(dòng)作將時(shí)刻保持執(zhí)行狀態(tài)。
模式可以是任何條件語(yǔ)句或復(fù)合語(yǔ)句或正則表達(dá)式。
模式可以是
正則表達(dá)式:(正則表達(dá)式需要寫在//中)
匹配記錄(整行的匹配):
awk '/^root/' /etc/passwd #root開頭的行
awk '$0 ~ /^root/' /etc/passwd #root開頭的行
awk '!/root/' passwd #不帶有root的行
awk '$0 !~ /^root/' /etc/passwd #不以root開頭的行
匹配字段:可以使用的匹配操作符(~和!~)
awk -F: '$1 ~ /^alice/' /etc/passwd #$1中alice開頭的行
awk -F: '$NF !~ /bash$/' /etc/passwd #最后一個(gè)字段不是bash結(jié)尾的行
比較表達(dá)式:
比較表達(dá)式采用對(duì)文本進(jìn)行比較,只有當(dāng)條件為真,才執(zhí)行指定的動(dòng)作。
比較表達(dá)式使用關(guān)系運(yùn)算符,用于比較數(shù)字與字符串。
關(guān)系運(yùn)算符有
< 小于 例如 x<y
> 大于 x>y
<= 小于或等于 x<=y
== 等于 x==y
!= 不等于 x!=y
>= 大于等于 x>=y
示例
awk -F: '$3 == 0' /etc/passwd
awk -F: '$3 < 10' /etc/passwd
awk -F: '$NF == "/bin/bash"' /etc/passwd
awk -F: '$1 == "root"' /etc/passwd
df -P | grep '/' |awk '$4 > 25000'
條件表達(dá)式:
awk -F: '$3>300 {print $0}' /etc/passwd
awk -F: '{ if($3>300) print $0 }' /etc/passwd
awk -F: '{ if($3>300) {print $0} }' /etc/passwd
awk -F: '{ if($3>300) {print $3} else{print $1} }' /etc/passwd
算術(shù)運(yùn)算:+ - * / %(模-取余) ^(冪)
可以在模式中執(zhí)行計(jì)算,awk都將按浮點(diǎn)數(shù)方式執(zhí)行算術(shù)運(yùn)算
awk -F: '$3 * 10 > 500' /etc/passwd
awk -F: '{ if($3*10>500){print $0} }' /etc/passwd
邏輯操作符合復(fù)合模式
&&邏輯與,相當(dāng)于并且
||邏輯或,相當(dāng)于或者
!邏輯非,取反
awk -F: '$1~/root/ && $3<=15' /etc/passwd
awk -F: '$1~/root/ || $3<=15' /etc/passwd
awk -F: '!($1~/root/ || $3<=15)' /etc/passwd
范圍模式, 模式之間用逗號(hào) , 隔開
使用語(yǔ)法是:起始表達(dá)式,終止表達(dá)式
下面例子的意思是:從開頭是bin的行開始匹配成功一直到含有adm的行結(jié)束匹配
也就是 開頭是bin的行到含有adm的行的所有內(nèi)容都符合匹配條件
awk -F: '/^bin/,/adm/ {print $0 }' /etc/passwd
bin:x:1:1:bin:/bin:/sbin/nologin
daemon:x:2:2:daemon:/sbin:/sbin/nologin
adm:x:3:4:adm:/var/adm:/sbin/nologin
awk 正則示例:
匹配開頭是bin的或者開頭是root的行
awk -F: '/^(bin|root)/' /etc/passwd
root:x:0:0:root:/root:/bin/zsh
bin:x:1:1:bin:/bin:/sbin/nologin
指定多個(gè)分隔符:[]
echo "a b|c d| ||||e | |" |awk -F'[ |]' '{print $10}'。
e
echo "a b|c d| ||||e | |" |awk -F'[ |]' '{print $10}'
e
注意:在正則中,中括號(hào)
[]內(nèi)的任意字符均視為普通字符,比如.*都被當(dāng)做普通字符。
echo "a.b*c" |awk -F'[.*]' '{print $1, $2,$3}'
a b c
七、awk的腳本編程
條件判斷
if語(yǔ)句
awk -F: '{if($3==0){print $1} else {print $7}}' /etc/passwd
awk -F: '{ if($3==0){count++} else{i++} } END{print "管理員個(gè)數(shù): "count "系統(tǒng)用戶數(shù): "i}' /etc/passwd
輸入:
管理員個(gè)數(shù): 1系統(tǒng)用戶數(shù): 24
awk -F: '{ if($3==0){count++} else{i++} } END{print "管理員個(gè)數(shù): "count ; print "系統(tǒng)用戶數(shù): "i}' /etc/passwd
輸出:
管理員個(gè)數(shù): 1
系統(tǒng)用戶數(shù): 24
if...else if...else 語(yǔ)句
awk -F: '{if($3==0){i++} else if($3>999){k++} else{j++}} END{print i; print k; print j}' /etc/passwd
輸出:
1
2
22
awk -F: '{if($3==0){i++} else if($3>999){k++} else{j++}} END{print "管理員個(gè)數(shù): "i; print "普通用個(gè)數(shù): "k; print "系統(tǒng)用戶: "j}' /etc/passwd
輸出:
管理員個(gè)數(shù): 1
普通用個(gè)數(shù): 2
系統(tǒng)用戶: 22
awk使用外部變量
擴(kuò)展
方法一:awk 參數(shù) -v (推薦使用,易讀)
[root@tianyun ~]# echo "unix script" |awk -v var="bash" 'gsub(/unix/,var)'
bash script
[root@tianyun ~]# awk -v user=root -F: '$1 == **user**' /etc/passwd
root:x:0:0:root:/root:/bin/bash
gsub使 AWK 中的內(nèi)置函數(shù),功能使搜索替換
'gsub(/unix/,var)中的意思是搜索unix字符串,替換為 var 變量對(duì)應(yīng)的值
方法二:在雙引號(hào)的情況下使用
[root@tianyun ~]# var="bash"
[root@tianyun ~]# echo "unix script" |awk "gsub(/unix/,\"$var\")"
bash script
方法三:在單引號(hào)的情況下使用(逼不得已使用)
[root@tianyun ~]# var="bash"
[root@tianyun ~]# echo "unix script" |awk 'gsub(/unix/,"'"$var"'")'
bash script
其他練習(xí)
root@tianyun ~]# df -h
Filesystem Size Used Avail Use% Mounted on
/dev/mapper/cl-root 2.8T 246G 2.5T 9% /
tmpfs 24G 20K 24G 1% /dev/shm
/dev/sda2 1014M 194M 821M 20% /boot
[root@tianyun ~]# df -h |awk '{ if(int($5)>5){print $6":"$5} }'
/:9%
/boot:20%
[root@tianyun ~]# i=10
[root@tianyun ~]# df -h |awk '{ if(int($5)>'''$i'''){print $6":"$5} }'
/boot:20%