码迷,mamicode.com
首页 > 系统相关 > 详细

linux三剑客之awk

时间:2018-09-08 11:52:34      阅读:227      评论:0      收藏:0      [点我收藏+]

标签:有符号   ems   NPU   输入   efault   用法   common   case   line   

GNU AWK:

文本处理三剑客工具:

  grep, sed, awk

grep, egrep, fgrep:文本过滤工具;pattern

        sed:行编辑器
            模式空间、保持空间
        awk:报表生成器,格式化文本输出;
            处理文本文件时,对文档中对字段有条件对执行,有条件显示,

        AWK: Aho, Weinberger, Kernighan -->  New AWK, NAWK

        GNU awk, 简称: gawk

        gawk - pattern scanning and processing language
            支持条件判断、数组、循环等
            awk: 一个脚本语言解释器

            基本用法:gawk [options] ‘program‘  file ...
                program: pattern{action statement}
                    语句之间用分号分割

                    print,printf

                选项:
                    -F:指明输入时用到的字段分隔符
                    -v var=value:自定义变量

            1、print

                print item1,item2

                要点:
                    1、逗号分隔符
                    2、输出的各item可以字符串,也可以是数值;当前记录的字段、变量或awk的表达式:
                    3、如果省略item,相当于print $0;打印整行字符

            2、变量
                2.1 内建变量
                    FS: input field seperator,默认为空白字符;
                        [root@node1 ~]#awk -v FS=":" ‘{print $1}‘ /etc/passwd

                    OFS: output field seperator,默认为空白字符;
                        [root@node1 ~]#awk -v FS=":" -v OFS=":" ‘{print $1,$3}‘ /etc/passwd

                    RS:input record seperator,输入时的换行符;
                        [root@node1 ~]#awk -v RS=‘ ‘ ‘{print}‘ /etc/passwd

                    ORS:output record seperator,输出时的换行符;
                        [root@node1 ~]#awk -v RS=‘ ‘ -v ORS="#" ‘{print $1,$3}‘ /etc/passwd

                    NF: number of field,字段数量
                        {print NF},{print $NF}
                        [root@node1 ~]#awk ‘{print NF}‘ /etc/passwd
                        }
                    NR:number of record,行数
                        [root@node1 ~]#awk ‘{print NR}‘ /etc/fstab 

                    FNR:各文件分别计数;行数;
                        [root@node1 ~]#awk ‘{print FNR}‘ /etc/fstab /etc/issue

                    FILENAME:当前文件名;
                        [root@node1 ~]#awk ‘{print FILENAME}‘ /etc/fstab /etc/issue

                    ARGC:命令行参数的个数
                        [root@node1 ~]#awk ‘{print ARGC}‘ /etc/fstab /etc/issue

                    ARGV:数组,保存的是命令行所给定的各参数;
                        [root@node1 ~]#awk ‘BEGIN{print ARGV[0]}‘ /etc/fstab /etc/issue
                        awk
                        [root@node1 ~]#awk ‘BEGIN{print ARGV[1]}‘ /etc/fstab /etc/issue
                        /etc/fstab
                        [root@node1 ~]#awk ‘BEGIN{print ARGV[2]}‘ /etc/fstab /etc/issue
                        /etc/issue

                2.2 自定义变量
                    变量名区分字符大小写;

                    1、-v var=value
                        [root@node1 ~]#awk -v test=‘hello gawk‘ ‘{print test}‘ /etc/fstab
                        [root@node1 ~]#awk -v test=‘hello gawk‘ ‘BEGIN{print test}‘ 

                    2、在program中直接定义     
                        [root@node1 ~]#awk ‘BEGIN{ test="hello gawk"; print test}‘

                3、printf命令

                    格式化输出;printf FORMAT, item1, item2,.....

                        1、FORMAT是必须给出;
                        2、不会自动换行,需要显示给出换行控制符, \n
                        3、FORMAT中需要分别为后面的每个item指定一个格式化符号;

                        格式符:
                            %c:显示字符的ASCII码;
                            %d,%i:显示十进制整数;
                                [root@node1 ~]#awk -F: ‘{printf "Username: %s, UID: %d\n",$1,$3}‘ /etc/passwd

                            %e,%E:科学计数法数值显示;
                            %f;显示为浮点数
                            %g,%G;以科学计数法或浮点形式显示数值;
                            %s;显示字符串;
                                [root@node1 ~]#awk -F: ‘{printf "Username: %s\n",$1}‘ /etc/passwd

                            %u;无符号整数;
                            %%:显示%自身;

                        修饰符:
                            #[.#]:第一个数字控制显示的宽度;第二个#表示小数点后的精度;
                                %3.1f
                                [root@node1 ~]#awk -F: ‘{printf "Username: %-15s, UID: %d\n",$1,$3}‘ /etc/passwd

                            -:左对齐
                                [root@node1 ~]#awk -F: ‘{printf "Username: %-15s, UID: %d\n",$1,$3}‘ /etc/passwd

                            +:显示数值的符号

                4、操作符
                    算术操作符;
                        x+y, x-y, x*y, x/y, x^y, x%y
                        -x
                        +x:转换为数值;

                    字符串操作符;没有符号的操作符,字符串连接

                    赋值操作符;
                        =,+=,-=,*=,/=,%=,^=
                        ++,--,

                    比较操作符:
                        >  >=  < <= != ==

                    模式匹配符;
                        ~    是否匹配
                        !~   是否不匹配

                    逻辑操作符:
                        &&
                        ||
                        !

                    函数调用;
                        function_name(argu1, argu2, ...)

                    条件表达式;
                        selector?if-true-expression; if-false-expression

                        [root@node1 ~]#awk -F: ‘{$3>=1000?usertype="Common User": usertpye="Sysadmin or SysUser";printf "%15s:%-s\n",$1,usertype}‘ /etc/passwd

                5、PATTERN

                    1、empty;空模式,匹配每一行;
                    2、/regular expression/:仅处理能够被此处的模式匹配到的行

                        仅取以UUID开头的行
                        [root@node1 ~]#awk ‘/^UUID/{print $1}‘ /etc/fstab 
                        UUID=3d4ae911-238f-4436-82eb-5bb4660c38c7

                        对UUID开头的行取反
                        [root@node1 ~]#awk ‘!/^UUID/{print $1}‘ /etc/fstab 

                    3、relational expression:关系表达式;结果有“真”有“假”,结果为真才会被处理
                        真:结果为非0值,
                        非空字符串:
                        空字符串表示为假;

                        [root@node1 ~]#awk -F: ‘$3>=1000{print $1,$3}‘ /etc/passwd
                        nfsnobody 65534
                        it 1000
                        [root@node1 ~]#awk -F: ‘$3<=1000{print $1,$3}‘ /etc/passwd

                        [root@node1 ~]#awk -F: ‘$NF~/bash$/{print $1,$NF}‘ /etc/passwd
                        root /bin/bash
                        it /bin/bash

                    4、line ranges地址定界: 行范围:
                        startline,endline
                        /pat1/,/pat2/
                        [root@node1 ~]#awk -F: ‘/^rpcuser/,/^sshd/{print $1}‘ /etc/passwd

                        注意;不支持直接给出数字的格式;
                        [root@node1 ~]#awk -F: ‘(NR>=2&&NR<=10){print $1}‘ /etc/passwd

                    5、BEGIN/END模式
                        BEGIN{}:仅在开始处理文件中的文本之前执行一次;
                            [root@node1 ~]#awk -F: ‘BEGIN{print "     username       uid   \n-------------------------------\n"}{print $1,$3}‘ /etc/passwd

                        END{}:仅在文本处理完成之后命令结束之前执行一次;
                            [root@node1 ~]#awk -F: ‘BEGIN{print "     username       uid   \n-------------------------------\n"}{print $1,$3}END{print "=============================\n     end       "}‘ /etc/passwd

                    6、常用的action

                        1、experssions表达式:
                        2、Control statements 控制语句;if, while 等
                        3、Compound statements;组合语句;
                        4、input statements 输入语句
                        5、output statements 输出语句

                    7、控制语句

                        if (condition) {statements}
                        if(condition) {statements} else {statements}
                        while(condition) {statements}
                        do {statements} while(condition)
                        for (expr1;expr2;expr3) {statements}
                        break
                        continue
                        delete array[index]
                        delete array
                        exit
                        { statements }

                        7.1 if-else
                            语法:if(condition) statements [else statements]

                                [root@node2 ~]#awk -F: ‘{if($3>=1000) print $1,$3}‘ /etc/passwd
                                nfsnobody 65534
                                luo 1000
                                [root@node2 ~]#

                                [root@node3 ~]#awk -F: ‘{if($3>=1000) {printf "Common user: %s\n",$1} else {printf "root or Sysuser: %s\n",$1}}‘ /etc/passwd

                            使用场景:对awk取得的整行或某个字段做条件判断;

                                [root@node1 ~]#awk -F: ‘{if($NF=="/bin/bash") print $1}‘ /etc/passwd

                                [root@node1 ~]#awk ‘{if(NF>5) print $0}‘ /etc/passwd

                                [root@node1 ~]#df -h | awk -F"[%]" ‘/^\/dev/{print $1}‘| awk ‘{if($NF>=15) print $1}‘

                        7.2 while 循环
                            语法:while(condition) statements
                                条件“真”,进入循环;条件“假”,退出循环

                            使用场景;对一行内的多个字段逐一类似处理时使用;对数组中的各元素逐一处理时使用;

                                length()

                            对每个字段单独做统计
                                [root@node1 ~]#awk ‘/^[[:space:]]*linux16/{i=1;while(i<=NF) {print $i,length($i);i++}}‘ /etc/grub2.cfg

                            对每个字段单独做统计,并且字符数要>=7 给予显示
                                [root@node1 ~]#awk ‘/^[[:space:]]*linux16/{i=1;while(i<=NF) {if(length($i)>=7) {print $i,length($i)};i++}}‘ /etc/grub2.cfg

                        7.3 do-while循环
                            语法:
                                do statements while(condition)
                                意义:至少执行一次循环体

                        7.4 for循环
                            语法:for(expr1;expr2;expr3) statements
                                for (variable assignment; condition; iteration process) {for-body}

                                [root@node1 ~]#awk ‘/^[[:space:]]*linux16/{for(i=1;i<=NF;i++) {print $i,length($i)}}‘ /etc/grub2.cfg 

                            特殊用法:
                                能够遍历数组中的元素;
                                    语法: for (var in array) {for-body}

                        7.5 switch语句
                            语法:switch(expression) {case VALUE1 or /regexp/: statements; case VALUE2 or /regexp2/: statements; .....; default: statements}

                        7.6 break和continue
                             break[n]
                             continue

                        7.7 next

                            提前结束对本行的处理而直接进入下一行;

                            打印ID号为偶数的行
                            [root@node1 ~]#awk -F: ‘{if($3%2!=0) next;print $1,$3}‘ /etc/passwd

                    8、array 数组

                        关联数组:array[index-expression]
                            index-expression:
                                1、可使用任意字符串,字符串要使用双引号
                                2、如果某数组元素事先不存在,在引用时,awk会自动创建此元素,并将其值初始化为“空串”

                                若要判断数组中是否存在某元素,要使用“index in array” 格式进行;
                                    weekdays [mon] =“moday”

                                    [root@node1 ~]#awk ‘BEGIN{weekdays["mon"]="Monday";weekdays["tue"]="Tuesday";print weekdays["tue"]}‘
                                    Tuesday

                            若要遍历数组中的每个元素,要使用for循环
                                for (var in array) {for-body}

                                [root@node1 ~]#awk ‘BEGIN{weekdays["mon"]="Monday";weekdays["tue"]="Tuesday";for(i in weekdays) {print weekdays[i]}}‘

                                注意:var会遍历array的每个索引;

                                    state["LISTEN"]++
                                    state["ESTABLISHED"]++

                                统计出现的次数
                                    [root@node1 ~]#netstat -tan | awk ‘/^tcp\>/{state[$NF]++}END{for(i in state) {print i,state[i]}}‘

                                统计各IP出现的次数
                                    [root@node1 ~]#awk ‘{ip[$1]++}END{for(i in ip) {print i,ip[i]}}‘ /var/log/httpd/access_log 

                                练习:统计/etc/fstab文件中每个文件系统出现的次数
                                    awk ‘/^UUID/{fs[$3]++}END{for(i in fs) {print i,fs[i]}}‘ /etc/fstab

                                练习:统计指定文件中每个单词出现的次数;
                                    [root@node3 ~]#awk ‘{for(i=1;i<=NF;i++) {count[$i]++}}END{for(i in count) {print i,count[i]}}‘ /etc/passwd

                        9、函数

                            9.1 内置函数
                                数值处理:
                                    rand():返回0和1之间一个随机数

                                字符串处理:
                                    length([s]):返回指定字符串的长度;
                                    sub(r,s,[t]):以r表示的模式来查找t所表示的字符中的匹配的内容,并将其第一次出现替换为s所表示的内容;
                                    gsub(r,s,[t]):以r表示的模式来查找t所表示的字符中的匹配的内容,并将其所有出现均替换为s所表示的内容;
                                    split(s,a,[,r]):以r为分隔符切歌字符s,并将切歌后的结果保存至a所表示的数组中;
                                        [root@node1 ~]#netstat -tan| awk ‘/^tcp\>/{split($5,ip,":");print ip[1]}‘

                                        [root@node1 ~]#netstat -tan| awk ‘/^tcp\>/{split($5,ip,":");count[ip[1]]++}END{for (i in count) {print i,count[i]}}‘

linux三剑客之awk

标签:有符号   ems   NPU   输入   efault   用法   common   case   line   

原文地址:http://blog.51cto.com/dklwj/2171955

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!