shell awk脚本速查

2024-05-08 15:08
文章标签 shell 脚本 awk 速查

本文主要是介绍shell awk脚本速查,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

AWK单行脚本快速参考 2008年4月28日
编辑: Eric Pement eric [at] pement.org 版本 0.26
翻译: 董一粟 yisudong [at] gmail.com
最新英文版本文件发布在以下地址:

http://www.pement.org/awk/awk1line.txt

最新中文翻译版本文件发布在以下地址:

http://ximix.org/translation/awk1line_zh-CN.txt

翻译问题欢迎联系我:

http://hi.baidu.com/ximix/blog/item/e9334cc2204fa330e5dd3bf2.html

用法:

Unix: awk ‘/pattern/ {print “$1″}’ # 标准 Unix shell环境
DOS/Win: awk ‘/pattern/ {print “$1″}’ # DJGPP 可编译通过
awk “/pattern/ {print \”$1\”}” # GnuWin32,UnxUtils,Mingw环境

需要特别注意的是,DJGPP编译器可以允许awk脚本使用Unix的引号语法
‘/like/ {“this”}’。但是,用户必须知道在DOS/Windows环境下,使用CMD.EXE或者
COMMAND.COM程序的话,单引号并不能保护重定向符号(< , >)和管道(|)。
如果使用双引号的话,在DOS/CMD命令解释器下的特殊符号和他们的特殊含义都
会被忽略。如果你的命令提示符是bash、ksh或者其他的Unix终端,单引号和双引号
会沿用Unix标准的用法。

同样,DOS/Win用户必须记住用,百分号(%)用来标记DOS/Win环境变量,
如果想要在awk使用的话,需要使用双百分号(%%)来表示一个百分号%。

如果我能确定一个脚本不需要被指出是使用在Unix, DOS或者CMD环境下,我通常
会省略引号。如果一个例子是GNU awk所特有的,将会用 ‘gawk’命令来代替。如
果你发现错误或者新的命令想要添加到这个列表里(总长度控制在65个字符一下)
,请通知我。首先我经常会尝试去写一个最短字符的脚本。为了省空间,我通常使用
’1′来代替’{print}’去打印每行,两种写法都能正确运行

# 每行后面增加一行空行awk '1;{print ""}'awk 'BEGIN{ORS="\n\n"};1'# 每行后面增加一行空行。输出文件不会包含连续的两个或两个以上的空行 # 注意:在Unix系统, DOS行包括的 CRLF (\r\n) 通常会被作为非空行对待# 因此 'NF' 将会返回TRUE。awk 'NF{print $0 "\n"}'# 每行后面增加两行空行awk '1;{print "\n"}'编号和计算:# 以文件为单位,在每句行前加上编号 (左对齐)# 使用制表符 (\t) 来代替空格可以有效保护页变的空白。awk '{print FNR "\t" $0}' files*# 用制表符 (\t) 给所有文件加上连贯的编号。awk '{print NR "\t" $0}' files*# 以文件为单位,在每句行前加上编号 (编号在左,右对齐)# 如果在DOS环境下,需要写两个'%'awk '{printf("%5d : %s\n", NR,$0)}'# 给非空白行的行加上编号# 记得Unix对于 \r 的处理的特殊之处。(上面已经提到)awk 'NF{$0=++a " :" $0};{print}'awk '{print (NF? ++a " :" :"") $0}'# 计算行数 (模拟 "wc -l")awk 'END{print NR}'# 计算每行每个区域之和awk '{s=0; for (i=1; i< =NF; i++) s=s+$i; print s}'# 计算所有行所有区域的总和awk '{for (i=1; i<=NF; i++) s=s+$i}; END{print s}'# 打印每行每区域的绝对值awk '{for (i=1; i<=NF; i++) if ($i < 0) $i = -$i; print }'awk '{for (i=1; i<=NF; i++) $i = ($i < 0) ? -$i : $i; print }'# 计算所有行所有区域(词)的个数awk '{ total = total + NF }; END {print total}' file# 打印包含 "Beth" 的行数awk '/Beth/{n++}; END {print n+0}' file# 打印第一列最大的行# 并且在行前打印出这个最大的数awk '$1 > max {max=$1; maxline=$0}; END{ print max, maxline}'# 打印每行的列数,并在后面跟上此行内容awk '{ print NF ":" $0 } '# 打印每行的最后一列awk '{ print $NF }'# 打印最后一行的最后一列awk '{ field = $NF }; END{ print field }'# 打印列数超过4的行awk 'NF > 4'# 打印最后一列大于4的行awk '$NF > 4'构建字符串:# 构建一指定长度的字符串(比如,513个空格)awk 'BEGIN{while (a++&lt;513) s=s " "; print s}'# 在某一位置中插入以特定长度的字符串# 例子:在每行第6列后插入49个空格gawk --re-interval 'BEGIN{while(a++&lt;49)s=s " "};{sub(/^.{6}/,"&" s)};1'构建数组:# 以下两个部分并不是一句话脚本,但是这些技巧相当便捷所以也包括进来# 构建一个叫"month"的数组,以数字为索引,month[1]就是'Jan',month[2]就是# 'Feb',month[3]就是'Mar',以此类推。split("Jan Feb Mar Apr May Jun Jul Aug Sep Oct Nov Dec", month, " ")# 构建一个叫"mdigit"的数组,以字符串为索引,mdigit["Jan"] 等于 1,# mdigit["Feb"] 等于 2,等等。需要有"month"数组。for (i=1; i< =12; i++) m_digit[month[i]] = i文本转换和替代:# 在Unix环境:转换DOS新行 (CR/LF) 为Unix格式awk '{sub(/\r$/,"")};1'   # 假设每行都以Ctrl-M结尾# 在Unix环境:转换Unix新行 (LF) 为DOS格式awk '{sub(/$/,"\r")};1'# 在DOS环境:转换Unix新行 (LF) 为DOS格式awk 1# 在DOS环境:转换DOS新行 (CR/LF) 为Unix格式# DOS版本的awk不能运行, 只能用gawk:gawk -v BINMODE="w" '1' infile >outfile# 用 "tr" 替代的方法。tr -d \r <infile>outfile            # GNU tr 版本为 1.22 或者更高# 删除每行前的空白(包括空格符和制表符)# 使所有文本左对齐awk '{sub(/^[ \t]+/, "")};1'# 删除每行结尾的空白(包括空格符和制表符)awk '{sub(/[ \t]+$/, "")};1'# 删除每行开头和结尾的所有空白(包括空格符和制表符)awk '{gsub(/^[ \t]+|[ \t]+$/,"")};1'awk '{$1=$1};1'           # 每列之间的空白也被删除# 在每一行开头处插入5个空格 (做整页的左位移)awk '{sub(/^/, "     ")};1'# 用79个字符为宽度,将全部文本右对齐awk '{printf "%79s\n", $0}' file*# 用79个字符为宽度,将全部文本居中对齐awk '{l=length();s=int((79-l)/2); printf "%"(s+l)"s\n",$0}' file*# 每行用 "bar" 查找替换 "foo"awk '{sub(/foo/,"bar")}; 1'           # 仅仅替换第一个找到的"foo"gawk '{$0=gensub(/foo/,"bar",4)}; 1'  # 仅仅替换第四个找到的"foo"awk '{gsub(/foo/,"bar")}; 1'          # 全部替换# 在包含 "baz" 的行里,将 "foo" 替换为 "bar"awk '/baz/{gsub(/foo/, "bar")}; 1'# 在不包含 "baz" 的行里,将 "foo" 替换为 "bar"awk '!/baz/{gsub(/foo/, "bar")}; 1'# 将 "scarlet" 或者 "ruby" 或者 "puce" 替换为 "red"awk '{gsub(/scarlet|ruby|puce/, "red")}; 1'# 倒排文本 (模拟 "tac")awk '{a[i++]=$0} END {for (j=i-1; j>=0;) print a[j--] }' file*# 如果一行结尾为反斜线符,将下一行接到这行后面# (如果有连续多行后面带反斜线符,将会失败)awk '/\\$/ {sub(/\\$/,""); getline t; print $0 t; next}; 1' file*# 排序并打印所有登录用户的姓名awk -F ":" '{ print $1 | "sort" }' /etc/passwd# 以相反的顺序打印出每行的前两列awk '{print $2, $1}' file# 调换前两列的位置awk '{temp = $1; $1 = $2; $2 = temp}' file# 打印每行,并删除第二列awk '{ $2 = ""; print }'# 倒置每行并打印awk '{for (i=NF; i>0; i--) printf("%s ",i);printf ("\n")}' file# 用逗号链接每5行awk 'ORS=NR%5?",":"\n"' file选择性的打印某些行:# 打印文件的前十行 (模拟 "head")awk 'NR < 11'# 打印文件的第一行 (模拟 "head -1")awk 'NR>1{exit};1'# 打印文件的最后两行 (模拟 "tail -2")awk '{y=x "\n" $0; x=$0};END{print y}'# 打印文件的最后一行 (模拟 "tail -1")awk 'END{print}'# 打印匹配正则表达式的行 (模拟 "grep")awk '/regex/'# 打印不匹配正则表达式的行 (模拟 "grep -v")awk '!/regex/'# 打印第5列等于"abc123"的行awk '$5 == "abc123"'# 打印第5列不等于"abc123"的行# 这个同样可以用于打印少于5列的行awk '$5 != "abc123"'awk '!($5 == "abc123")'# 用正则匹配某一列awk '$7  ~ /^[a-f]/'    # 打印第7列匹配的行awk '$7 !~ /^[a-f]/'    # 打印第7列不匹配的行# 打印匹配正则表达式的前一行,但是不打印当前行awk '/regex/{print x};{x=$0}'awk '/regex/{print (x=="" ? "match on line 1" : x)};{x=$0}'# 打印匹配正则表达式的后一行,但是不打印当前行awk '/regex/{getline;print}'# 以任何顺序查找包含 AAA、BBB 和 CCC 的行awk '/AAA/; /BBB/; /CCC/'# 以指定顺序查找包含 AAA、BBB 和 CCC 的行awk '/AAA.*BBB.*CCC/'# 打印长度大于64个字节的行awk 'length > 64'# 打印长度小于64个字节的行awk 'length < 64'# 打印从匹配正则起到文件末尾的内容awk '/regex/,0'awk '/regex/,EOF'# 打印指定行之间的内容 (8-12行, 包括第8和第12行)awk 'NR==8,NR==12'# 打印第52行awk 'NR==52'awk 'NR==52 {print;exit}'          # 对于大文件更有效率# 打印两个正则匹配间的内容 (包括正则的内容)awk '/Iowa/,/Montana/'             # 大小写敏感选择性的删除某些行:# 删除所有空白行 (类似于 "grep '.' ")awk NFawk '/./'# 删除重复连续的行 (模拟 "uniq")awk 'a !~ $0; {a=$0}'# 删除重复的、非连续的行awk '! a[$0]++'                     # 最简练awk '!($0 in a) {a[$0];print}'      # 最有效

这篇关于shell awk脚本速查的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/970659

相关文章

微信公众号脚本-获取热搜自动新建草稿并发布文章

《微信公众号脚本-获取热搜自动新建草稿并发布文章》本来想写一个自动化发布微信公众号的小绿书的脚本,但是微信公众号官网没有小绿书的接口,那就写一个获取热搜微信普通文章的脚本吧,:本文主要介绍微信公众... 目录介绍思路前期准备环境要求获取接口token获取热搜获取热搜数据下载热搜图片给图片加上标题文字上传图片

通过Python脚本批量复制并规范命名视频文件

《通过Python脚本批量复制并规范命名视频文件》本文介绍了如何通过Python脚本批量复制并规范命名视频文件,实现自动补齐数字编号、保留原始文件、智能识别有效文件等功能,听过代码示例介绍的非常详细,... 目录一、问题场景:杂乱的视频文件名二、完整解决方案三、关键技术解析1. 智能路径处理2. 精准文件名

web网络安全之跨站脚本攻击(XSS)详解

《web网络安全之跨站脚本攻击(XSS)详解》:本文主要介绍web网络安全之跨站脚本攻击(XSS)的相关资料,跨站脚本攻击XSS是一种常见的Web安全漏洞,攻击者通过注入恶意脚本诱使用户执行,可能... 目录前言XSS 的类型1. 存储型 XSS(Stored XSS)示例:危害:2. 反射型 XSS(Re

Python3脚本实现Excel与TXT的智能转换

《Python3脚本实现Excel与TXT的智能转换》在数据处理的日常工作中,我们经常需要将Excel中的结构化数据转换为其他格式,本文将使用Python3实现Excel与TXT的智能转换,需要的可以... 目录场景应用:为什么需要这种转换技术解析:代码实现详解核心代码展示改进点说明实战演练:从Excel到

Python脚本实现图片文件批量命名

《Python脚本实现图片文件批量命名》这篇文章主要为大家详细介绍了一个用python第三方库pillow写的批量处理图片命名的脚本,文中的示例代码讲解详细,感兴趣的小伙伴可以了解下... 目录前言源码批量处理图片尺寸脚本源码GUI界面源码打包成.exe可执行文件前言本文介绍一个用python第三方库pi

shell脚本自动删除30天以前的文件(最新推荐)

《shell脚本自动删除30天以前的文件(最新推荐)》该文章介绍了如何使用Shell脚本自动删除指定目录下30天以前的文件,并通过crontab设置定时任务,此外,还提供了如何使用Shell脚本删除E... 目录shell脚本自动删除30天以前的文件linux按照日期定时删除elasticsearch索引s

10个Python自动化办公的脚本分享

《10个Python自动化办公的脚本分享》在日常办公中,我们常常会被繁琐、重复的任务占据大量时间,本文为大家分享了10个实用的Python自动化办公案例及源码,希望对大家有所帮助... 目录1. 批量处理 Excel 文件2. 自动发送邮件3. 批量重命名文件4. 数据清洗5. 生成 PPT6. 自动化测试

使用Java实现一个解析CURL脚本小工具

《使用Java实现一个解析CURL脚本小工具》文章介绍了如何使用Java实现一个解析CURL脚本的工具,该工具可以将CURL脚本中的Header解析为KVMap结构,获取URL路径、请求类型,解析UR... 目录使用示例实现原理具体实现CurlParserUtilCurlEntityICurlHandler

10个Python Excel自动化脚本分享

《10个PythonExcel自动化脚本分享》在数据处理和分析的过程中,Excel文件是我们日常工作中常见的格式,本文将分享10个实用的Excel自动化脚本,希望可以帮助大家更轻松地掌握这些技能... 目录1. Excel单元格批量填充2. 设置行高与列宽3. 根据条件删除行4. 创建新的Excel工作表5

Linux中shell解析脚本的通配符、元字符、转义符说明

《Linux中shell解析脚本的通配符、元字符、转义符说明》:本文主要介绍shell通配符、元字符、转义符以及shell解析脚本的过程,通配符用于路径扩展,元字符用于多命令分割,转义符用于将特殊... 目录一、linux shell通配符(wildcard)二、shell元字符(特殊字符 Meta)三、s