linux 三剑客之grep

Posted by Benderfly on April 4, 2019

grep返回值

grep可用于shell脚本,因为grep通过返回一个状态值来说明搜索的状态:
如果模板搜索成功,则返回0
如果搜索不成功,则返回1
如果搜索的文件不存在,则返回2。
我们利用这些返回值就可进行一些自动化的文本处理工作。

命令格式

grep [option] pattern file

命令参数

-d <动作>      --directories=<动作>   #当指定要查找的是目录而非文件时,必须使用这项参数,否则grep指令将回报信息并停止动作。   
-f<规则文件>  --file=<规则文件>   #指定规则文件,其内容含有一个或多个规则样式,让grep查找符合规则条件的文件内容,格式为每行一个规则样式。            
-l    --file-with-matches   #列出文件内容符合指定的样式的文件名称。   
-L   --files-without-match   #列出文件内容不符合指定的样式的文件名称。   
-q   --quiet或--silent   #不显示任何信息。   
-r   --recursive   #此参数的效果和指定“-d recurse”参数相同。   
-E :开启扩展(Extend)的正则表达式。
-i :忽略大小写(ignore case)。
-v :反过来(invert),只打印没有匹配的,而匹配的反而不打印。
-n :显示行号
-w :被匹配的文本只能是单词,而不能是单词中的某一部分,如文本中有liker,而我搜寻的只是like,就可以使用-w选项来避免匹配liker
-c :显示总共有多少行被匹配到了,而不是显示被匹配到的内容,注意如果同时使用-cv选项是显示有多少行没有被匹配到。
-o :只显示被模式匹配到的字符串。
--color :将匹配到的内容以颜色高亮显示。
-A  n:显示匹配到的字符串所在的行及其后n行,after
-B  n:显示匹配到的字符串所在的行及其前n行,before
-C  n:显示匹配到的字符串所在的行及其前后各n行,context

规则表达式

grep的规则表达式:

^  #锚定行的开始 如:'^grep'匹配所有以grep开头的行。    

$  #锚定行的结束 如:'grep$'匹配所有以grep结尾的行。    

.  #匹配一个非换行符的字符 如:'gr.p'匹配gr后接一个任意字符,然后是p。    

*  #匹配零个或多个先前字符 如:'*grep'匹配所有一个或多个空格后紧跟grep的行。    

.*   #一起用代表任意字符。   

[]   #匹配一个指定范围内的字符,如'[Gg]rep'匹配Grep和grep。    

[^]  #匹配一个不在指定范围内的字符,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头,紧跟rep的行。    

\(..\)  #分组及引用:标记匹配字符,如'\(love\)',love被标记为1,\n :引用第n个左括号及其对应的右括号所匹配的内容。grep "^\([a-zA-Z]\).*\1$" passwd   

\<      #锚定单词的开始,如:'\<grep'匹配包含以grep开头的单词的行。    

\>      #锚定单词的结束,如'grep\>'匹配包含以grep结尾的单词的行。    

x\{m\}  #重复字符x,m次,如:'0\{5\}'匹配包含5个o的行。    

x\{m,\}  #重复字符x,至少m次,如:'o\{5,\}'匹配至少有5个o的行。    

x\{m,n\}  #重复字符x,至少m次,不多于n次,如:'o\{5,10\}'匹配5--10个o的行。   

\w    #匹配文字和数字字符,也就是[A-Za-z0-9],如:'G\w*p'匹配以G后跟零个或多个文字或数字字符,然后是p。   

\W    #\w的反置形式,匹配一个或多个非单词字符,如点号句号等。   
 
\b或\<:锚定单词的词首。如"\blike"不会匹配alike,但是会匹配liker 
\B :与\b作用相反。

POSIX字符

为了在不同国家的字符编码中保持一至,POSIX(The Portable Operating System Interface)增加了特殊的字符类,如[:alnum:]是[A-Za-z0-9]的另一个写法。
要把它们放到[]号内才能成为正则表达式,如[A- Za-z0-9]或[[:alnum:]]。在linux下的grep除fgrep外,都支持POSIX的字符类。

[:alnum:]    #文字数字字符   

[:alpha:]    #文字字符   

[:digit:]    #数字字符   

[:graph:]    #非空字符(非空格、控制字符)   

[:lower:]    #小写字符   

[:cntrl:]    #控制字符   

[:print:]    #非空字符(包括空格)   

[:punct:]    #标点符号   

[:space:]    #所有空白字符(新行,空格,制表符)   

[:upper:]    #大写字符   

[:xdigit:]   #十六进制数字(0-9,a-f,A-F)  

扩展的(Extend)

扩展的(Extend)正则表达式(注意要使用扩展的正则表达式要加-E选项,或者直接使用egrep): 匹配次数:

  • :和基本正则表达式一样
    ? :基本正则表达式是\?,二这里没有\。
    {m,n} :相比基本正则表达式也是没有了\。
  • :匹配其前面的字符至少一次,相当于{1,}。

位置锚定:和基本正则表达式一样。
分组及引用:
(string) :相比基本正则表达式也是没有了\。
\1 :引用部分和基本正则表达式一样。
\n :引用部分和基本正则表达式一样。
或者:
a|b :匹配a或b,注意a是指 | 的左边的整体,b也同理。比如 C|cat 表示的是 C或cat,而不是Cat或cat,如果要表示Cat或cat,则应该写为 (C|c)at 。
记住(string)除了用于引用还用于分组。

注1:默认情况下,正则表达式的匹配工作在贪婪模式下,也就是说它会尽可能长地去匹配,比如某一行有字符串 abacb,如果搜索内容为 “a.*b” 那么会直接匹配 abacb这个串,而不会只匹配ab或acb。

使用实例

排除目录和文件

--exclude-dir=dir1
grep -r --exclude-dir=svn 'function_name' * 
grep -rn --exclude-dir=build_* --exclude-dir=kernel --exclude-dir=drivers --exclude=*.out 'abcdefg' .
grep --exclude-dir=".svn" U_BOOT_CMD * -nR --exclude="cscope.out" --exclude="tags"

匹配第一个和最后一个字符相同

grep “^([[:alpha:]]).\1$” passwd grep “^([a-zA-Z]).\1$” passwd

显示行号

# grep -n root /etc/passwd
1:root:x:0:0:root:/root:/bin/bash
30:operator:x:11:0:operator:/root:/sbin/nologin

显示上下文

#前2行,和后3行
dmesg | grep -n -A3 -B2 --color=auto 'eth'  

根据文件内容递归查找目录

grep -r "energywise" *        #在当前目录及其子目录下搜索'energywise'行的文件
grep -l -r "energywise" *     #在当前目录及其子目录下搜索'energywise'行的文件,但是不显示匹配的行,只显示匹配的文件

从文件中读取关键词进行搜索

cat test.txt | grep -f test2.txt  
[root@localhost test]# cat test.txt 

hnlinux

peida.cnblogs.com

ubuntu

ubuntu linux

redhat

Redhat

linuxmint

[root@localhost test]# cat test2.txt 

linux

Redhat

[root@localhost test]# cat test.txt | grep -f test2.txt

hnlinux

ubuntu linux

Redhat

linuxmint

从多个文件中查找关键词

grep 'linux' test.txt test2.txt

正则表达式

grep -n 't[ae]st' regular_express.txt    #搜寻 test 或 taste 这两个单字
grep -n '[0-9]' regular_express.txt      #数字
grep -n '\.$' regular_express.txt        #小数点结尾
grep -n '^$' regular_express.txt         #空白行
grep -n 'go\{2,5\}g' regular_express.txt #2-5个o
egrep -n 'go{2,5}g' regular_express.txt  #同上
grep 'NW\|EA' testfile 
grep -E 'NW|EA' testfile   
egrep 'NW|EA' testfile

#一个或者多个连续的no的行
egrep '(no)+' testfile
grep -E '(no)+' testfile
grep '\(no\)\+' testfile   #3个命令返回相同结果

#包含0个或1个小数点字符的行
egrep '2\.?[0-9]' testfile 
grep -E '2\.?[0-9]' testfile
grep '2\.\?[0-9]' testfile 

fgrep不使用正则表达式

fgrep 查询速度比grep命令快,但是不够灵活:它只能找固定的文本,而不是规则表达式。

如果你想在一个文件或者输出中找到包含星号字符的行

fgrep  '*' /etc/profile
grep -F '*' /etc/profile

匹配个数

ps -ef|grep svn -c
ps -ef|grep -c svn
输出:
[root@localhost ~]# ps -ef|grep svn -c
2
[root@localhost ~]# ps -ef|grep -c svn 
2

grep不显示本身进程

ps aux | grep ssh | grep -v "grep"

输出非u开头的行内容

cat test.txt |grep ^[^u]