Linux： awk

2024-05-31 06:08
文章标签 linux awk

本文主要是介绍Linux： awk，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

awk命令       http://man.linuxde.net/awk


常用命令选项:


 -F fs   fs指定输入分隔符，fs可以是字符串或正则表达式，如-F: 

 -f scripfile  从脚本文件中读取awk命令

 -v var=value   赋值一个用户定义变量，将外部变量传递给awk -f scripfile  从脚本文件中读取awk命令 

 -m[fr] val   对val值设置内在限制，-mf选项限制分配给val的最大块数目；-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能，在标准awk中不适用。


awk脚本的基本结构：

     awk 'BEGIN{ print "start" } pattern{ commands } END{ print "end" }' file



{ }类似一个循环体，会对文件中的每一行进行迭代，通常变量初始化语句（如：i=0）以及打印文件头部的语句放入BEGIN语句块中，将打印的结果等语句放在END语句块中。 


对输出求和：

$ seq 6 | awk 'BEGIN {sum=0; print "总和："} {print $1"+"; sum+=$1} END{print "等于"; print sum}'


说明：begin和end必须要大写


示例：

（1）将外部变量值传递给awk

借助-v选项，可以将外部值（并非来自stdin）传递给awk：

VAR=10000 

echo | awk -v VARIABLE=$VAR '{ print VARIABLE }'

另一种传递外部变量方法：
var1="aaa" 

var2="bbb" 

echo | awk '{ print v1,v2 }' v1=$var1 v2=$var2

当输入来自于文件时使用：

awk '{ print v1,v2 }' v1=$var1 v2=$var2 filename

以上方法中，变量之间用空格分隔作为awk的命令行参数跟随在BEGIN、{}和END语句块之后。




—————————————————————————————————————————————————————————

awk 内置变量（预定义变量）

说明：[A][N][P][G]表示第一个支持变量的工具，[A]=awk、[N]=nawk、[P]=POSIXawk、[G]=gawk

$n 当前记录的第n个字段，比如n为1表示第一个字段，n为2表示第二个字段。 

$0 这个变量包含执行过程中当前行的文本内容。 

[N] ARGC 命令行参数的数目。 

[G] ARGIND 命令行中当前文件的位置（从0开始算）。 

[N] ARGV 包含命令行参数的数组。 

[G] CONVFMT 数字转换格式（默认值为%.6g）。 

[P] ENVIRON 环境变量关联数组。 

[N] ERRNO 最后一个系统错误的描述。 

[G] FIELDWIDTHS 字段宽度列表（用空格键分隔）。 

[A] FILENAME 当前输入文件的名。 

[P] FNR 同NR，但相对于当前文件。 

[A] FS 字段分隔符（默认是任何空格）。 

[G] IGNORECASE 如果为真，则进行忽略大小写的匹配。 

[A] NF 表示字段数，在执行过程中对应于当前的字段数。 

[A] NR 表示记录数，在执行过程中对应于当前的行号。 

[A] OFMT 数字的输出格式（默认值是%.6g）。 

[A] OFS 输出字段分隔符（默认值是一个空格）。 

[A] ORS 输出记录分隔符（默认值是一个换行符）。 

[A] RS 记录分隔符（默认是一个换行符）。 

[N] RSTART 由match函数所匹配的字符串的第一个位置。 

[N] RLENGTH 由match函数所匹配的字符串的长度。 

[N] SUBSEP 数组下标分隔符（默认值是34）。

示例：

（1）使用print $NF可以打印出一行中的最后一个字段，使用$(NF-1)则是打印倒数第二个字段，其他以此类推：
echo -e "line1 f2 f3n line2 f4 f5" | awk '{print $NF}' 

f3 

f5


（2）统计文件中的行数：
awk 'END{ print NR }' filename
————————————————————————————————————————————————————————
awk 高级输入输出

1、读取下一条记录

awk中next语句使用：在循环逐行匹配，如果遇到next，就会跳过当前行，直接忽略下面语句。而进行下一行匹配。next语句一般用于多行合并：

    
2、简单地读取一条记录 awk getline
        awk getline用法：输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件获得输入。它负责从输入获得下一行的内容，并给NF,NR和FNR等内建变量赋值。如果得到一条记录，getline函数返回1，如果到达文件的末尾就返回0，如果出现错误，例如打开文件失败，就返回-1。
      getline语法：getline var，变量var包含了特定行的内容。

awk getline从整体上来说，用法说明： 

(1)当其左右无重定向符|或<时：getline作用于当前文件，读入当前文件的第一行给其后跟的变量var或$0（无变量），应该注意到，由于awk在处理getline之前已经读入了一行，所以getline得到的返回结果是隔行的。

(2)当其左右有重定向符|或<时：getline则作用于定向输入文件，由于该文件是刚打开，并没有被awk读入一行，只是getline读入，那么getline返回的是该文件的第一行，而不是隔行。 

示例：

（1） 执行linux的date命令，并通过管道输出给getline，然后再把输出赋值给自定义变量out，并打印它：

awk 'BEGIN{ "date" | getline out; print out }'

结果：2016年11月24日 星期四 11时53分38秒 CST

（2）执行shell的date命令，并通过管道输出给getline，然后getline从管道中读取并将输入赋值给out，split函数把变量out转化成数组mon，然后打印数组mon的第二个元素：

awk 'BEGIN{ "date" | getline out; split(out,mon); print mon[2] }'

结果：星期四

（3）关闭文件

awk中允许在程序中关闭一个输入或输出文件，方法是使用awk的close语句。

close("filename") 

（4）输出到一个文件

awk中允许用如下方式将结果输出到一个文件：

echo | awk '{printf("hello word!n") > "datafile"}' 

或

echo | awk '{printf("hello word!n") >> "datafile"}'

—————————————————————————————————————————————————————————

awk 流程控制

1、条件判断： 每条命令语句后面可以用;分号结尾。

if(表达式)

     {语句1} 

else if (表达式) 

     {语句2} 

else {语句3}

2、循环语句

（1）while

while(表达式) 

     {语句}

（2）for

for循环有两种格式：

for(变量 in 数组) 

       {语句}
或者：

for(变量;条件;表达式)

       {语句}


（3）do

do 

   {语句} 

     while(条件)

3、其他语句：

break 当 break 语句用于 while 或 for 语句时，导致退出程序循环。

continue 当 continue 语句用于 while 或 for 语句时，使程序循环移动到下一个迭代。 

next 能能够导致读入下一个输入行，并返回到脚本的顶部。这可以避免对当前输入行执行其他的操作过程。 

exit 语句使主输入循环退出并将控制转移到END,如果END存在的话。如果没有定义END规则，或在END中应用exit语句，则终止脚本的执行。


4、数组

数组是awk的灵魂，处理文本中最不能少的就是它的数组处理。因为数组索引（下标）可以是数字和字符串在awk中数组叫做关联数组(associative arrays)。awk 中的数组不必提前声明，也不必声明大小。数组元素用0或空字符串来初始化，这根据上下文而定。

注意：数组下标是从1开始，与C数组不一样。

（1）数字做数组索引（下标）：
Array[1]="sun" 

Array[2]="kai"
（2）字符串做数组索引（下标）： 

Array["first"]="www" 

Array["last"]="name" 

Array["birth"]="1987"

（3）读取数组的值
{ for(item in array) {print array[item]}; } #输出的顺序是随机的 

{ for(i=1;i<=len;i++) {print array[i]}; } #Len是数组的长度

—————————————————————————————————————————————————————————

用法示例：

1、打印文件的第一列(域)                 ： awk '{print $1}' filename

2、打印文件的前两列(域)                 ： awk '{print $1,$2}' filename
3、打印完第一列，然后打印第二列  ： awk '{print $1 $2}' filename
4、打印文本文件的总行数                ： awk 'END{print NR}' filename
5、打印文本第一行                          ：awk 'NR==1{print}' filename
6、打印文本第二行第一列                ：sed -n "2, 1p" filename | awk 'print $1'

7、shell里面的赋值方法有两种，格式为

    1) arg=`(命令)`
    2) arg=$(命令)
因此，如果想要把某一文件的总行数赋值给变量nlines，可以表达为：
    1) nlines=`(awk 'END{print NR}' filename)`
或者

    2) nlines=$(awk 'END{print NR}' filename)

    









这篇关于Linux： awk的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1017489。

相关文章

linux生产者，消费者问题

linux生产者，消费者问题

pthread_cond_wait() ：用于阻塞当前线程，等待别的线程使用pthread_cond_signal()或pthread_cond_broadcast来唤醒它。 pthread_cond_wait() 必须与pthread_mutex 配套使用。pthread_cond_wait()函数一进入wait状态就会自动release mutex。当其他线程通过pthread
阅读更多...
Linux 安装、配置Tomcat 的HTTPS

Linux 安装、配置Tomcat 的HTTPS

Linux 安装 、配置Tomcat的HTTPS 安装Tomcat 这里选择的是 tomcat 10.X ,需要Java 11及更高版本 Binary Distributions ->Core->选择 tar.gz包 下载、上传到内网服务器 /opt 目录tar -xzf 解压将解压的根目录改名为 tomat-10 并移动到 /opt 下, 形成个人习惯的路径 /opt/tomcat-10
阅读更多...
RedHat运维-Linux文本操作基础-AWK进阶

RedHat运维-Linux文本操作基础-AWK进阶

你不用整理，跟着敲一遍，有个印象，然后把它保存到本地，以后要用再去看，如果有了新东西，你自个再添加。这是我参考牛客上的shell编程专项题，只不过换成了问答的方式而已。不用背，就算是我自己亲自敲，我现在好多也记不住。 1. 输出nowcoder.txt文件第5行的内容 2. 输出nowcoder.txt文件第6行的内容 3. 输出nowcoder.txt文件第7行的内容 4. 输出nowcode
阅读更多...
【Linux进阶】UNIX体系结构分解——操作系统，内核，shell

【Linux进阶】UNIX体系结构分解——操作系统，内核，shell

1.什么是操作系统？ 从严格意义上说，可将操作系统定义为一种软件，它控制计算机硬件资源，提供程序运行环境。我们通常将这种软件称为内核（kerel)，因为它相对较小，而且位于环境的核心。  从广义上说，操作系统包括了内核和一些其他软件，这些软件使得计算机能够发挥作用，并使计算机具有自己的特生。这里所说的其他软件包括系统实用程序（system utility）、应用程序、shell以及公用函数库等
阅读更多...
Windows/macOS/Linux 安装 Redis 和 Redis Desktop Manager 可视化工具

Windows/macOS/Linux 安装 Redis 和 Redis Desktop Manager 可视化工具

本文所有安装都在macOS High Sierra 10.13.4进行，Windows安装相对容易些，Linux安装与macOS类似，文中会做区分讲解 1. Redis安装 1.下载Redis https://redis.io/download 把下载的源码更名为redis-4.0.9-source，我喜欢跟maven、Tomcat放在一起，就放到/Users/zhan/Documents
阅读更多...
Linux系统稳定性的奥秘：探究其背后的机制与哲学

Linux系统稳定性的奥秘：探究其背后的机制与哲学

在计算机操作系统的世界里，Linux以其卓越的稳定性和可靠性著称，成为服务器、嵌入式系统乃至个人电脑用户的首选。那么，是什么造就了Linux如此之高的稳定性呢？本文将深入解析Linux系统稳定性的几个关键因素，揭示其背后的技术哲学与实践。 1. 开源协作的力量Linux是一个开源项目，意味着任何人都可以查看、修改和贡献其源代码。这种开放性吸引了全球成千上万的开发者参与到内核的维护与优化中，形成了
阅读更多...
Linux 下的Vim命令宝贝

Linux 下的Vim命令宝贝

vim 命令详解（转自：https://www.cnblogs.com/usergaojie/p/4583796.html） vi: Visual Interface 可视化接口 vim: VI iMproved VI增强版 全屏编辑器，模式化编辑器 vim模式： 编辑模式(命令模式)输入模式末行模式 模式转换： 编辑-->输入： i: 在当前光标所在字符的前面，转为输入模式
阅读更多...
Linux和Mac分卷压缩

Linux和Mac分卷压缩

使用 zip 命令压缩文件 使用 zip 命令压缩文件，并结合 split 命令来分卷： zip - largefile | split -b 500k 举例： zip - ./tomcat.dmg |split -b 500k 上述命令将文件 largefile 压缩成 zip 包并分卷成不超过 500k 的文件，分解后文件名默认是 x* ，后缀为 2 位a-z 字母，如 aa、ab。
阅读更多...
Linux文本三剑客sed

Linux文本三剑客sed

sed和awk grep就是查找文本当中的内容，最强大的功能就是使用扩展正则表达式 sed sed是一种流编辑器，一次处理一行内容。 如果只是展示，会放在缓冲区（模式空间），展示结束后，会从模式空间把结果删除 一行行处理，处理完当前行，才会处理下一行。直到文件的末尾。 sed的命令格式和操作选项： sed -e '操作符 ' -e '操作符' 文件1 文件2 -e表示可以跟多个操作
阅读更多...
Linux中拷贝 cp命令中拷贝所有的写法详解

Linux中拷贝 cp命令中拷贝所有的写法详解

This text from: http://www.jb51.net/article/101641.htm 一、预备  cp就是拷贝，最简单的使用方式就是： cp oldfile newfile 但这样只能拷贝文件，不能拷贝目录，所以通常用： cp -r old/ new/ 那就会把old目录整个拷贝到new目录下。注意，不是把old目录里面的文件拷贝到new目录，
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2