linux 文本工具使用小技巧

awk

awk 用法

awk 通常表达式awk 'begin{ commands } pattern{ commands } end{ commands }',其中 begin 部分和 end 部分可以省略,即awk '{代码}',比如最简单的打印第一列awk '{print $1}'就是这样。
运行原理:

  • 第一步:运行BEGIN{ commands }语句块中的语句。通常用于变量初始化、打印输出表格的表头等语句通常能够写在BEGIN语句块中。可选语块
  • 第二步:从文件或标准输入(stdin)读取一行。然后运行pattern{ commands }语句块,它逐行扫描文件,从第一行到最后一行反复这个过程。直到文件所有被读取完成。
  • 第三步:当读至输入流末尾时。运行END{ commands }语句块。

print函数
print 后面可以跟多个参数,类似python print方法,各参数用空格分开" ",以下是代表的各种变量意义:

  • $0 当前记录(这个变量中存放着整个行的内容)
  • $1~$n 当前记录的第n个字段,字段间由FS分隔
  • FS 输入字段分隔符 默认是空格或Tab
  • NF 当前记录中的字段个数,就是有多少列
  • NR 已经读出的记录数,就是行号,从1开始,如果有多个文件话,这个值也是不断累加中。
  • FNR 当前记录数,与NR不同的是,这个值会是各个文件自己的行号
  • RS 输入的记录分隔符, 默认为换行符
  • OFS 输出字段分隔符, 默认也是空格
  • ORS 输出的记录分隔符,默认为换行符
  • FILENAME 当前输入文件的名字

docker ps | awk '{print NR "\t" $1}' 表示 打印行号+制表符+第一列数据。

实践使用案例

删除指定关键字容器:
删除带有k8s关键字的所有容器

docker rm -f $(docker ps -a | grep k8s | awk '{print $1}')

jq命令工具

jq表达式

  • 单独的一个'.'符号用来表示对作为表达式输入的整个 JSON 对象的引用。
  • 单个'.<attributename>'表示当前一级目录下的属性名称
  • 访问特定数组的元素操作,'.[<index>]',比如.[1]表示访问数组第2个元素,.[]表示所有元素迭代一次来遍历
  • 也可以支持数组切片操作,类似python,'.[<startindex>:<endindex>]'

实践使用案例

在容器docker inspect的使用:

查看容器挂载目录有哪些:
Mounts在第二级目录下

docker inspect kubelet | jq ".[].Mounts"

查看容器网络
Networks在第三级目录下

docker inspect kubelet | jq .[].NetworkSettings.Networks

jq 命令后面可以带双引号也可以不带

查看容器配置,比如镜像名称、环境变量、entrypoint:

docker inspect kubelet | jq .[].Config

grep 和 egrep

grep

grep是一种强大的文本搜索工具命令,它能使用正则表达式搜索文本,并把匹配的行打印出来,grep所支持的正则表达式:

^
锚定行的开始 如:'^grep'匹配所有以grep开头的行。

$
锚定行的结束 如:'grep$'匹配所有以grep结尾的行。

.
匹配一个非换行符的字符如:'gr.p'匹配gr后接一个任意字符,然后是p。

*
匹配零个或多个先前字符如:'*grep'匹配所有一个或多个空格后紧跟grep的行。 .*一起用代表任意字符。

[]
匹配一个指定范围内的字符,如'[Gg]rep'匹配Grep和grep。

[^]
匹配一个不在指定范围内的字符,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头,紧跟rep的行。

..
标记匹配字符,如'love',love被标记为1

\<
锚定单词的开始,如:'\<grep'匹配包含以grep开头的单词的行。

\>
锚定单词的结束,如'grep\>'匹配包含以grep结尾的单词的行。

x\{m\}
重复字符x,m次,如:'0\{5\}'匹配包含5个o的行。

x\{m,\}
重复字符x,至少m次,如:'o\{5,\}'匹配至少有5个o的行。

x\{m,n\}
重复字符x,至少m次,不多于n次,如:'o\{5,10\}'匹配5--10个o的行。

\w
匹配文字和数字字符,也就是[A-Za-z0-9],如:'G\w*p'匹配以G后跟零个或多个文字或数字字符,然后是p。

\W
\w的反置形式,匹配一个或多个非单词字符,如点号句号等。

\b
单词锁定符,如: '\bgrep\b'只匹配grep。

egrep

egrep是grep的扩展,支持更多的正则表达式元字符,egrep的扩展集如下:

+
匹配一个或多个先前的字符。如:'[a-z]+able',匹配一个或多个小写字母后跟able的串,如loveable,enable,disable等。

?
匹配零个或多个先前的字符。如:'gr?p'匹配gr后跟一个或没有字符,然后是p的行。

a|b|c
匹配a或b或c。如:grep|sed匹配grep或sed

()
分组符号,如:love(able|rs)ov+匹配loveable或lovers,匹配一个或多个ov。

x{m},x{m,},x{m,n}
作用同x\{m\},x\{m,\},x\{m,n\}

特殊字符写法

为了在不同国家的字符编码中保持一至,POSIX(The Portable Operating System Interface)增加了特殊的字符类,如[:alnum:]是A-Za-z0-9的另一个写法。要把它们放到[]号内才能成为正则表达式,如[A- Za-z0-9]或[[:alnum:]]。POSIX的字符类:

[:alnum:]
文字数字字符

[:alpha:]
文字字符

[:digit:]
数字字符

[:graph:]
非空字符(非空格、控制字符)

[:lower:]
小写字符

[:cntrl:]
控制字符

[:print:]
非空字符(包括空格)

[:punct:]
标点符号

[:space:]
所有空白字符(新行,空格,制表符)

[:upper:]
大写字符

[:xdigit:]
十六进制数字(0-9,a-f,A-F)

命令案例

grep和egrep的命令格式都是

grep <命令参数> <表达式> <文件/文件夹>
egrep <命令参数> <表达式> <文件/文件夹>

常用命令参数:

-v: 反向选取,就是异运算
-o:仅显示匹配的字串,而非字串所在的行
-i:ignore-case,忽略字符大小写
-A:显示之后两行
-B:显示之前两行
-C:显示上下两行
-R: 递归循环

案例1:

grep -R '\.HandleCrash' cmd pkg staging | egrep -v 'test|apiserver|kubectl|controller|proxy|scheduler|ssh'

cmdpkgstaging文件夹下查找包含.HandleCrash字符的文本的行输出,再返回不包含”test|apiserver|kubectl|controller|proxy|scheduler|ssh”这些字段的行。

shikanon wechat
欢迎您扫一扫,订阅我滴↑↑↑的微信公众号!