linux awk命令 linux命令sed与awk是干什么用的，怎么用？
linux awk\u547d\u4ee4\u600e\u4e48\u7528\uff1fawk\u547d\u4ee4\u662fAlfred Aho, Peter Weinberger, Brian Kernighan\u4e09\u4f4d\u4f5c\u8005\u8054\u5408\u5f00\u53d1\u7684\uff0c\u7528\u4e8eLinux/Unix\u4e2d\u5904\u7406\u6570\u636e\u548c\u4ea7\u751f\u62a5\u544a\u3002awk\u547d\u4ee4\u529f\u80fd\u5341\u5206\u5f3a\u5927\uff0c\u53ef\u6839\u636e\u9700\u8981\u6293\u53d6\u3001\u622a\u53d6\u6307\u5b9a\u7684\u5217\u6216\u884c\u3002
\u9996\u5148\u5728/mnt\u76ee\u5f55\u4e0b\u521b\u5efa\u793a\u4f8b\u6587\u672c\u6587\u4ef6f1\uff0c\u5176\u5185\u5bb9\u5982\u4e0b\uff1a
1 hello hello
2 data data
3 xyz abc
4 123 789
5 ftp
6 Apache
7 apache
\u7136\u540e\uff0c\u4f7f\u7528awk\u5bf9f1\u6587\u4ef6\u5185\u5bb9\u8fdb\u884c\u5904\u7406\uff0c\u4e3e\u4f8b\u5982\u4e0b\u3002
\u2460awk -F " " '{print $2,$3}' f1\uff1a\u622a\u53d6\u663e\u793a\u6587\u6863\u7684\u7b2c\u4e8c\u5217\u548c\u7b2c\u4e09\u5217\uff0c-F\u6307\u5b9a\u5206\u9694\u7b26\u4e3a\u7a7a\u683c\uff0c$\u8868\u793a\u663e\u793a\u7b2c\u51e0\u5217\u3002\u5176\u4e2dprint\u8868\u793a\u8981\u505a\u8f93\u51fa\u4fe1\u606f\u7684\u52a8\u4f5c\uff0c$2\u548c$3\u8868\u793a\u8981\u8f93\u51fa\u7684\u5217\u53f7\uff0cawk\u8981\u6c42\u5c06print\u5df2\u7ecf\u8f93\u51fa\u5217\u7b49\u5185\u5bb9\u653e\u5728\u201c'{}'\u201d\u4e4b\u95f4\u3002
\u2461awk -F " " '($1>3){print $2,$3}' f1\uff1a\u9009\u53d6\u7b2c\u4e00\u5217\u7684\u503c\u5927\u4e8e3\u7684\u884c\uff0c\u663e\u793a\u5176\u7b2c\u4e8c\u5217\u548c\u7b2c\u4e09\u5217\uff0c\u5728\u201c()\u201d\u4e2d\u6307\u5b9a\u7b5b\u9009\u6761\u4ef6\u3002
\u2462awk 'NR==4 || NR==3' f1\uff1a\u663e\u793a\u7b2c\u4e09\u884c\u548c\u7b2c\u56db\u884c\uff0cNR\u8868\u793a\u884c\u53f7\u3002
\u2463awk '/data/ {print $2}' f1\uff1a\u6293\u53d6\u5305\u542b\u6307\u5b9a\u5b57\u7b26\u7684\u884c\uff0c\u518d\u5bf9\u5217\u8fdb\u884c\u622a\u53d6\u3002\u6b64\u4f8b\u4e2d\uff0cawk\u5148\u6309\u7167\u201cdata\u201d\u5b57\u7b26\u4e32\u5bf9\u6587\u4ef6f1\u4e2d\u7684\u884c\u7b5b\u9009\uff0c\u627e\u51fa\u5305\u542b\u201cdata\u201d\u7684\u884c\u4ee5\u540e\uff0c\u518d\u6309\u7167\u9ed8\u8ba4\u7684\u7a7a\u683c\u4f5c\u4e3a\u5206\u9694\u7b26\u5bf9\u884c\u7684\u5185\u5bb9\u505a\u5207\u5272\uff0c\u4ec5\u6253\u5370\u51fa\u7b2c\u4e8c\u5217\u7684\u5185\u5bb9\u3002
\u2464awk '$2 ~ /data/ ' f1\uff1a\u6293\u53d6\u7b2c\u4e8c\u5217\u5305\u542b\u6307\u5b9a\u5b57\u7b26\u7684\u884c\u3002\u5176\u4e2d\u201c~\u201d\u8868\u793a\u662f\u5426\u5339\u914d\u6307\u5b9a\u7684\u201cdata\u201d\uff0c\u5982\u679c\u7b2c\u4e8c\u5217\u7684\u5185\u5bb9\u5305\u542b\u201cdata\u201d\u5c31\u6253\u5370\u51fa\u6574\u884c\u5185\u5bb9\u3002
\u2465awk '$2 !~ /data/ ' f1\uff1a\u6293\u53d6\u7b2c\u4e8c\u5217\u4e0d\u5305\u542b\u6307\u5b9a\u5b57\u7b26\u7684\u884c\u3002\u5176\u4e2d\u201c!~\u201d\u8868\u793a\u662f\u5426\u4e0d\u5339\u914d\u6307\u5b9a\u7684\u201cdata\u201d\uff0c\u5982\u679c\u7b2c\u4e8c\u5217\u7684\u5185\u5bb9\u4e0d\u5305\u542b\u201cdata\u201d\u5c31\u6253\u5370\u51fa\u6574\u884c\u5185\u5bb9\u3002
\u975e\u5e38\u5f3a\u5927\u7684\u6587\u672c\u64cd\u7eb5\u5de5\u5177\uff0csed\uff0cawk\uff0cgrep \u8fd9\u4e2a\u4e09\u4e2a\u547d\u4ee4 \u90fd\u662f\u64cd\u4f5c\u6587\u672c\u6587\u4ef6\u7684
unix\u7cfb\u7edf\u6709\u51e0\u4e2a\u975e\u5e38\u547d\u4ee4\u7684\u7279\u70b9\uff1a
1. \u5bf9\u4e8e\u5185\u6838\u800c\u8a00\uff0cunix\u6587\u4ef6\u90fd\u662f\u5b57\u8282\u5e8f\u5217\u3002io\u8bbe\u5907\u4e5f\u662f\u6587\u4ef6\u3002
2. \u81f3\u4e8e\u6587\u4ef6\u7684\u542b\u4e49\u4ea4\u7531\u5e94\u7528\u7a0b\u5e8f\u6765\u89e3\u91ca\u3002\u5176\u4e2d\u6587\u672c\u6587\u4ef6\u975e\u5e38\u91cd\u8981\uff0c\u56e0\u4e3aunix\u63d0\u4f9b \u5f88\u591a\u4e86\u5b9e\u7528\u7a0b\u5e8f\uff08utility\uff09\uff0c\u8fd9\u4e9b\u7a0b\u5e8f\u529f\u80fd\u76f8\u5bf9\u72ec\u7acb\uff0c\u4f46\u53ef\u4ee5\u901a\u8fc7\u7ba1\u9053\u6765\u5b9e\u73b0\u8fdb\u7a0b\u95f4\u901a\u4fe1\uff08IPC\uff09\uff0c\u8fd9\u6837\u677e\u6563\u7684\u8026\u5408\u53ef\u4ee5\u5b8c\u6210\u590d\u6742\u7684\u64cd\u4f5c\u3002\u90a3\u4e48\u8fdb\u7a0b\u95f4\u7684\u901a\u4fe1\u7684\u6570\u636e\u683c\u5f0f\u662f\u600e\u6837\u7684\u5462\uff1f \u5176\u5b9e\u5bf9\u4e8e\u5b9e\u7528\u7a0b\u5e8f\u800c\u8a00\uff0c\u8fd9\u4e2a\u6570\u636e\u683c\u5f0f\u5c31\u662f\u7b80\u5355\u7684\u6587\u672c\u6587\u4ef6\u3002\u6b64\u5916\uff0c\u8fd8\u6709IO\u91cd\u5b9a\u5411\uff0c\u4e5f\u662f\u4e00\u4e2a\u4e0d\u9519\u7684\u521b\u610f\u3002\u81f3\u4e8e\u6587\u672c\u6587\u4ef6\u4e2d\u7684\u5185\u5bb9\u91c7\u7528\u4ec0\u4e48\u683c\u5f0f\u5462\uff1f\u8fd9\u4e2a\u5f88\u5177\u4f53\u7684\u547d\u4ee4\u6709\u5173\uff0c\u90a3\u4e48\u64cd\u4f5c\u6587\u672c\u5c31\u53d8\u5f97\u975e\u5e38\u91cd\u8981\u3002grep\uff0csed\u548cawk\u5c31\u662f\u4e09\u4e2a\u64cd\u7eb5\u6587\u672c\u6587\u4ef6\u7684\u547d\u4ee4
grep\u641c\u7d22
sed \u4fee\u6539\u548c\u7f16\u8f91\u6587\u672c\u6587\u4ef6\u4e2d\u67d0\u4e9b\u884c
awk \u662f\u8bbf\u95ee\u6587\u672c\u6587\u4ef6\uff0c\u64cd\u7eb5\u6587\u672c\u6587\u4ef6\u4e2d\u67d0\u4e9b\u6570\u636e
\u660e\u767d\u4e86\u5417\uff1f
一、awk是一个强大的文本分析工具，相对于grep的查找，sed的编辑，awk在其对数据分析并生成报告时，显得尤为强大。简单来说awk就是把文件逐行的读入，以空格为默认分隔符将每行切片，切开的部分再进行各种分析处理。
二. awk命令格式和选项
2.1 awk的语法有两种形式
1. 命令行方式
awk [-F field-separator] 'commands' input-file(s)
其中，commands是真正awk命令，[-F域分隔符]是可选的。input-file(s)是待处理的文件。
在awk中，文件的每一行中，由域分隔符分开的每一项称为一个域。通常，在不指名-F域分隔符的情况下，默认的域分隔符是空格。
2. 将所有的awk命令插入一个单独文件，然后调用:
awk -f awk-script-file input-file(s)
其中，-f选项加载awk-script-file中的awk脚本，input-file(s)跟上面的是一样的。
2.2 命令选项
（1）-F fs or --field-separator fs ：指定输入文件折分隔符，fs是一个字符串或者是一个正则表达式，如-F:。
（2）-v var=value or --asign var=value ：赋值一个用户定义变量。
（3）-f scripfile or --file scriptfile ：从脚本文件中读取awk命令。
（4）-mf nnn and -mr nnn ：对nnn值设置内在限制，-mf选项限制分配给nnn的最大块数目；-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能，在标准awk中不适用。
（5）-W compact or --compat, -W traditional or --traditional ：在兼容模式下运行awk。所以gawk的行为和标准的awk完全一样，所有的awk扩展都被忽略。
（6）-W copyleft or --copyleft, -W copyright or --copyright ：打印简短的版权信息。
（7）-W help or --help, -W usage or --usage ：打印全部awk选项和每个选项的简短说明。
（8）-W lint or --lint ：打印不能向传统unix平台移植的结构的警告。
（9）-W lint-old or --lint-old ：打印关于不能向传统unix平台移植的结构的警告。
（10）-W posix ：打开兼容模式。但有以下限制，不识别：/x、函数关键字、func、换码序列以及当fs是一个空格时，将新行作为一个域分隔符；操作符**和**=不能代替^和^=；fflush无效。
（11）-W re-interval or --re-inerval ：允许间隔正则表达式的使用，参考(grep中的Posix字符类)，如括号表达式[[:alpha:]]。
（12）-W source program-text or --source program-text ：使用program-text作为源代码，可与-f命令混用。
（13）-W version or --version ：打印bug报告信息的版本。
三. 使用方法
#awk '{pattern + action}' {filenames}
尽管操作可能会很复杂，但语法总是这样，其中 pattern 表示 AWK 在数据中查找的内容，而 action 是在找到匹配内容时所执行的一系列命令。花括号（{}）不需要在程序中始终出现，但它们用于根据特定的模式对一系列指令进行分组。 pattern就是要表示的正则表达式，用斜杠括起来。
awk语言的最基本功能是在文件或者字符串中基于指定规则浏览和抽取信息，awk抽取信息后，才能进行其他文本操作。完整的awk脚本通常用来格式化文本文件中的信息。
通常，awk是以文件的一行为处理单位的。awk每接收文件的一行，然后执行相应的命令，来处理文本。
四. 模式和操作
awk脚本是由模式和操作组成的：
pattern {action} 如$ awk '/root/' test，或$ awk '$3 < 100' test。
两者是可选的，如果没有模式，则action应用到全部记录，如果没有action，则输出匹配全部记录。默认情况下，每一个输入行都是一条记录，但用户可通过RS变量指定不同的分隔符进行分隔。
4.1. 模式
模式可以是以下任意一个：
（1）正则表达式：使用通配符的扩展集。
（2）关系表达式：可以用下面运算符表中的关系运算符进行操作，可以是字符（3）串或数字的比较，如$2>%1选择第二个字段比第一个字段长的行。
（4）模式匹配表达式：用运算符~(匹配)和~!(不匹配)。
（5）模式，模式：指定一个行的范围。该语法不能包括BEGIN和END模式。
（6）BEGIN：让用户指定在第一条输入记录被处理之前所发生的动作，通常可在这里设置全局变量。
（7）END：让用户在最后一条输入记录被读取之后发生的动作。
4.2. 操作
操作由一人或多个命令、函数、表达式组成，之间由换行符或分号隔开，并位于大括号内。主要有四部份：
（1）变量或数组赋值
（2）输出命令
（3）内置函数
（4）控制流命令
五. awk的环境变量
六. awk运算符
七. 记录和域
7.1. 记录
awk把每一个以换行符结束的行称为一个记录。
记录分隔符：默认的输入和输出的分隔符都是回车，保存在内建变量ORS和RS中。
$0变量：它指的是整条记录。如$ awk '{print $0}' test将输出test文件中的所有记录。
变量NR：一个计数器，每处理完一条记录，NR的值就增加1。
如$ awk '{print NR,$0}' test将输出test文件中所有记录，并在记录前显示记录号。
7.2. 域
记录中每个单词称做“域”，默认情况下以空格或tab分隔。awk可跟踪域的个数，并在内建变量NF中保存该值。如$ awk '{print $1,$3}' test将打印test文件中第一和第三个以空格分开的列(域)。
7.3. 域分隔符
内建变量FS保存输入域分隔符的值，默认是空格或tab。我们可以通过-F命令行选项修改FS的值。如$ awk -F: '{print $1,$5}' test将打印以冒号为分隔符的第一，第五列的内容。
可以同时使用多个域分隔符，这时应该把分隔符写成放到方括号中，如$awk -F'[:/t]' '{print $1,$3}' test，表示以空格、冒号和tab作为分隔符。
输出域的分隔符默认是一个空格，保存在OFS中。如$ awk -F: '{print $1,$5}' test，$1和$5间的逗号就是OFS的值。
八. 匹配操作符(~)
用来在记录或者域内匹配正则表达式。如$ awk '$1 ~/^root/' test将显示test文件第一列中以root开头的行。
九. 比较表达式
conditional expression1 ? expression2: expression3，
例如：
$ awk '{max = {$1 > $3} ? $1: $3: print max}' test。如果第一个域大于第三个域，$1就赋值给max，否则$3就赋值给max。
$ awk '$1 + $2 < 100' test。如果第一和第二个域相加大于100，则打印这些行。
$ awk '$1 > 5 && $2 < 10' test,如果第一个域大于5，并且第二个域小于10，则打印这些行。
十. 范围模板
范围模板匹配从第一个模板的第一次出现到第二个模板的第一次出现之间所有行。如果有一个模板没出现，则匹配到开头或末尾。如$ awk '/root/,/mysql/' test将显示root第一次出现到mysql第一次出现之间的所有行。
-F选项指定分隔符，你用的是'a'，所以对于第一行abcabcabcabc
a分割后分成以下几个域：空 | bc | bc | bc | bc
对应关系为 ：$1 $2 $3 $4 $5
print $3打印第三个域：bc
print $2打印第二个域：bc
print $1打印第一个域：空
第二行：vivi,abc,abc,abc
分割后：vivi, | bc, | bc, | bc
对应为：$1 $2 $3 $4
打印第三个域：bc,
打印第二个域：bc,
打印第一个域：vivi,
第三行：12345a,a---a;a
分割后：12345 | , | --- | ; | 空
对应为： $1 $2 $3 $4 $5
打印第三个域：---
打印第二个域：,
打印第一个域：12345
扩展阅读：linux xargs ... linux grep查找关键字 ... linux xcopy ... linux必学的60个命令 ... grep -r命令查找文件内容 ... linux awk命令详解 ... linux命令cp-r ... linux awk if ... linux free命令 ...
