标签：shell 正则表达式 扩展正则表达式 贪婪模式 懒惰模式
正则表达式是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用来表达对字符串的一种过滤逻辑。通常被用来检索、替换那些符合某个模式(规则)的文本。其主要应用对象是文本，因此它在各种文本编辑器场合都有应用。
贪婪模式与懒惰模式
正则表达式默认的情况下，会在满足匹配条件下尽可能的匹配更多内容。如 a.*b，用他来匹配 aabab ，它会匹配整个 aabab ，而不会只匹配到 aab 为止，这就是贪婪匹配。
与贪婪匹配对应的是，在满足匹配条件的情况下尽可能的匹配更少的内容，这就是懒惰匹配。
例如：一个字符串“abcdakdjd”
regex1="a.*?d"; 懒惰匹配
regex2="a.*d"; 贪婪匹配
以上两种，一个是尽量匹配最短字符串，一个是要匹配最长字符串。
默认是贪婪模式；在量词后面直接加上一个问号？就是非贪婪模式。
量词：{m,n}：m到n个
*：任意多个
+：一个到多个
？：0或一个
| 懒惰限定符 | 说明 |
|---|---|
| *? | 重复任意次，但尽可能少重复 |
| +? | 重复 1 次或更多次，但尽可能少重复 |
| ?? | 重复 0 次或 1 次，但尽可能少重复 |
正则表达式
不可打印字符
字符 描述
\cx 匹配由x指明的控制字符。例如， \cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则，将 c 视为一个原义的 ‘c‘ 字符。
\f 配一个换页符。等价于 \x0c 和 \cL。
\n 配一个换行符。等价于 \x0a 和 \cJ。
\r 配一个回车符。等价于 \x0d 和 \cM。
\s 配任何空白字符，包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。
\S 配任何非空白字符。等价于 [^ \f\n\r\t\v]。
\t 配一个制表符。等价于 \x09 和 \cI。
\v 配一个垂直制表符。等价于 \x0b 和 \cK。
字符匹配：
. 表示单个字符
例如：
# echo "abc123" | grep -o "a."
ab
[] 范围以内的单个字符
例如：
# echo "abc123" | grep -o [a3]
a
3
# echo "abc123" | grep -o [2-5]
2
3
[^] 范围外的
例如：
# echo -e "abc\n123" | grep [^1-9] //echo会输出abc和123两行
abc
次数匹配：
* 重复其前面的一个字符0次或多次
例如：
# echo -e "aaabc\n123" | grep "a*c"
aaabc
\? 重复其前的字符0次或一次
例如：
# echo -e "aaabc\n123" | grep -o "a\?"
a
a
a
\{n,m\} 匹配其前的字符至少n次，至多m次。若无上限m可以省略
\{n,\} 重复至少n次，前一个重复的字符。如果用egrep可以取掉斜线。
\{n\} 重复n次，前一个重复的字符。如果用egrep可以取掉斜线。
\{,m}\ 重复最多m次－最好不要用。
例如：
# echo -e "aa\naaabc\n123" | grep "a\{3,\}"
aaabc
.* 匹配任意长度、任意字符
例如：
# echo -e "aaabc\n123" | grep "1.*"
123
锚定：
^ 行首
例如：
# echo -e "123_abc\nabc_123" | grep "^a"
abc_123
$ 行尾
例如：
# echo -e "123_abc\nabc_123" | grep "3$"
abc_123
^$ 表示空行，不是空格
\<,\b 词首
例如：
# echo -e "123_abc\nabc_123" | grep "\<abc"
abc_123
\>,\b 词尾
例如：
# echo -e "123_abc\nabc_123" | grep "abc\>"
123_abc
个别特殊字符：
\( \) 标记一个子表达式的开始和结束位置。子表达式可以获取供以后使用。
\ 转义符号 ， \. 就只代表点.本身，让有着特殊身份意义的字符，脱掉马甲.
扩展正则表达式
次数匹配：
* 其前面的字符N次
？ 匹配其前面的字符0次或1次
+ 匹配其前面的字符至少一次
例如：
# echo -e "aaabc\n123" | egrep -o "a+"
aaa
至少一个空白字符开头 ‘^[[:space:]]+’
| 指明两项之间的一个选择。要匹配 |，请使用 \|。
{m,n} 匹配其前的字符至少m次，至多n次。通上
() 分组
例如：’(C|c)at’ cat 或 Cat
‘(……){3}’ 重复()中的三次 ； 若无()则重复前一个的
组合用法：
^[a-zA-Z_]$ 所有的字母和下划线（一个字符）
^[a-zA-Z]{3}$ 所有的3个字母的单词
________________________________________________________________________________________
以下内容为摘抄部分
如果纯粹是为了挑战自己的正则水平，用来实现一些特效（例如使用正则表达式计算质数、解线性方程），效率不是问题；如果所写的正则表达式只是为了满足一两次、几十次的运行，优化与否区别也不太大。但是，如果所写的正则表达式会百万次、千万次地运行，效率就是很大的问题了。我这里总结了几条提升正则表达式运行效率的经验（工作中学到的，看书学来的，自己的体会），贴在这里。如果您有其它的经验而这里没有提及，欢迎赐教。
为行文方便，先定义两个概念。
误匹配：指正则表达式所匹配的内容范围超出了所需要范围，有些文本明明不符合要求，但是被所写的正则式“击中了”。例如，如果使用\d{11}来匹配11位的手机号，\d{11}不单能匹配正确的手机号，它还会匹配98765432100这样的明显不是手机号的字符串。我们把这样的匹配称之为误匹配。
漏匹配：指正则表达式所匹配的内容所规定的范围太狭窄，有些文本确实是所需要的，但是所写的正则没有将这种情况囊括在内。例如，使用\d{18}来匹配18位的身份证号码，就会漏掉结尾是字母X的情况。
写出一条正则表达式，既可能只出现误匹配（条件写得极宽松，其范围大于目标文本），也可能只出现漏匹配（只描述了目标文本中多种情况种的一种），还可能既有误匹配又有漏匹配。例如，使用\w+\.com来匹配.com结尾的域名，既会误匹配abc_.com这样的字串（合法的域名中不含下划线，\w包含了下划线这种情况），又会漏掉ab-c.com这样的域名（合法域名中可以含中划线，但是\w不匹配中划线）。
精准的正则表达式意味着既无误匹配且无漏匹配。当然，现实中存在这样的情况：只能看到有限数量的文本，根据这些文本写规则，但是这些规则将会用到海量的文本中。这种情况下，尽可能地（如果不是完全地）消除误匹配以及漏匹配，并提升运行效率，就是我们的目标。本文所提出的经验，主要是针对这种情况。
掌握语法细节。正则表达式在各种语言中，其语法大致相同，细节各有千秋。明确所使用语言的正则的语法的细节，是写出正确、高效正则表达式的基础。例如，perl中与\w等效的匹配范围是[a-zA-Z0-9_]；perl正则式不支持肯定逆序环视中使用可变的重复（variable repetition inside lookbehind，例如(?<=.*)abc），但是.Net语法是支持这一特性的；又如，JavaScript连逆序环视（Lookbehind,如(?<=ab)c）都不支持，而perl和Python是支持的。《精通正则表达式》第3章《正则表达式的特性和流派概览》明确地列出了各大派系正则的异同，这篇文章也简要地列出了几种常用语言、工具中正则的比较。对于具体使用者而言，至少应该详细了解正在使用的那种工作语言里正则的语法细节。
先粗后精，先加后减。使用正则表达式语法对于目标文本进行描述和界定，可以像画素描一样，先大致勾勒出框架，再逐步在局步实现细节。仍举刚才的手机号的例子，先界定\d{11}，总不会错；再细化为1[358]\d{9}，就向前迈了一大步（至于第二位是不是3、5、8，这里无意深究，只举这样一个例子，说明逐步细化的过程）。这样做的目的是先消除漏匹配（刚开始先尽可能多地匹配，做加法），然后再一点一点地消除误匹配（做减法）。这样有先有后，在考虑时才不易出错，从而向“不误不漏”这个目标迈进。
留有余地。所能看到的文本sample是有限的，而待匹配检验的文本是海量的，暂时不可见的。对于这样的情况，在写正则表达式时要跳出所能见到的文本的圈子，开拓思路，作出“战略性前瞻”。例如，经常收到这样的垃圾短信：“发*票”、“发#漂”。如果要写规则屏蔽这样烦人的垃圾短信，不但要能写出可以匹配当前文本的正则表达式 发[*#](?:票|漂)，还要能够想到 发.(?:票|漂|飘)之类可能出现的“变种”。这在具体的领域或许会有针对性的规则，不多言。这样做的目的是消除漏匹配，延长正则表达式的生命周期。
明确。具体说来，就是谨慎用点号这样的元字符，尽可能不用星号和加号这样的任意量词。只要能确定范围的，例如\w，就不要用点号；只要能够预测重复次数的，就不要用任意量词。例如，写析取twitter消息的脚本，假设一条消息的xml正文部分结构是<span class=”msg”>…</span>且正文中无尖括号，那么<span class=”msg”>[^<]{1,480}</span>这种写法的思路要好于<span class=”msg”>.*</span>，原因有二：一是使用[^<]，它保证了文本的范围不会超出下一个小于号所在的位置；二是明确长度范围，{1,480}，其依据是一条twitter消息大致能的字符长度范围。当然，480这个长度是否正确还可推敲，但是这种思路是值得借鉴的。说得狠一点，“滥用点号、星号和加号是不环保、不负责任的做法”。
不要让稻草压死骆驼。每使用一个普通括号()而不是非捕获型括号(?:…)，就会保留一部分内存等着你再次访问。这样的正则表达式、无限次地运行次数，无异于一根根稻草的堆加，终于能将骆驼压死。养成合理使用(?:…)括号的习惯。
宁简勿繁。将一条复杂的正则表达式拆分为两条或多条简单的正则表达式，编程难度会降低，运行效率会提升。例如用来消除行首和行尾空白字符的正则表达式s/^\s+|\s+$//g;，其运行效率理论上要低于s/^\s+//g; s/\s+$//g; 。这个例子出自《精通正则表达式》第五章，书中对它的评论是“它几乎总是最快的，而且显然最容易理解”。既快又容易理解，何乐而不为？工作中我们还有其它的理由要将C==(A|B)这样的正则表达式拆为A和B两条表达式分别执行。例如，虽然A和B这两种情况只要有一种能够击中所需要的文本模式就会成功匹配，但是如果只要有一条子表达式（例如A）会产生误匹配，那么不论其它的子表达式（例如B）效率如何之高，范围如何精准，C的总体精准度也会因A而受到影响。
巧妙定位。有时候，我们需要匹配的the，是作为单词的the（两边有空格），而不是作为单词一部分的t-h-e的有序排列（例如together中的the）。在适当的时候用上^，$，\b等等定位锚点，能有效提升找到成功匹配、淘汰不成功匹配的效率。
本文出自 “墨” 博客，请务必保留此出处http://jinyudong.blog.51cto.com/10990408/1910334
标签：shell 正则表达式 扩展正则表达式 贪婪模式 懒惰模式
原文地址：http://jinyudong.blog.51cto.com/10990408/1910334
