平时做技术实践时,很多问题不是概念不会,而是细节没串起来。拿“强大的Perl正则表达式实例”来说,它看着像小点,放到项目里常会牵出环境、配置、兼容性和维护成本。下面按实际采用顺序,把思路、关键写法和容易踩坑的地方讲清楚,便于大家直接对照操作。
一、介绍
实际处理时,正则表达式各语言都有自己的规范,但是基本都差不多,都是由元字符的组合来进行匹配;由于Nmap内嵌的服务与版本探测是采用的Perl正则规范,所以此篇博客记录一下Perl正则的相关内容,便于后期查阅。
二、Perl正则例子
下面的例子可能有不足之处,有些来源于博客,没有验证;
1. 匹配IP地址:d+.d+.d+.d+
d:匹配一个数字字符,d+:匹配一次或多次数字字符。
.:采用转义字符匹配'.'。
2. 匹配邮箱类似于[email protected]: /^[a-zA-Z0-9_-.]+@[a-zA-Z0-9_-]+.[a-zA-Z]+$/
^: 匹配开头
$: 匹配结尾,这两个保证了这是连续的一串字符。
3. 匹配数字:m/^[0-9]+$/
实际处理时,由^开头由$结尾保证了只含有数字,如果只有结尾$,那么abc12这种也是能够的。
可用在输入校验,校验输入的是否是数字。
4. 用户输入温度(华氏温度,摄氏温度),编程进行转换
m/^([-+]?[0-9]+)([CF])$/ :匹配正负整数温度。
[CF]: 匹配中括号其中的一个
?:匹配前面的子表达式0次或1次
+:匹配前面的子表达式一次或多次
在这个场景下,perl借助临时变量$1,$2保存子表达式匹配的文本。$1保存的是数字,$2保存的是符号。
m/^([-+]?[0-9]+(?:.[0-9]*)?)s*([CF])$/i) :添加兼容小数的温度匹配
实际处理时,临时变量保存的顺序与分组的开括号 ( 在表达式中的顺序有关(从左到右);所以这个地方采用?:,代表该括号匹配的值不被临时变量保存。
/i: 代表忽略大小写匹配,cf也匹配。
参考地址:(链接已移除)))
5. 匹配空白行
^$ : 开头之后马上结束:空白行,不包括任何字符
ns*r:
n匹配一个换行符,等价于x0a
s匹配任何空白字符,包括空格制表换页
r匹配一个回车符,等价于x0d
6. 匹配首尾空白字符: ^s*|s*$
7. 匹配版本号1.3.0等
[d.]+
8. 匹配某个字符以外的所有字符:
[^a]* 表示匹配除a以外的所有字符,*代表0次或多次。
[^abc]* 表示匹配除a、b、c以外的所有字符。
((?!win).)* 表示匹配除单词win的其它所有字符
Windows (?!95|98|NT|2000)' 能匹配 "Windows 3.1" 中的 "Windows",但不能匹配
"Windows 2000" 中的 "Windows"。
9. 匹配数字:
^d+(.d+)?
^: 定义以什么开始;
d+: 表示匹配数字;
?: 表示内容可选;
匹配下面的内容:
1): {"service":"nutcracker", "source":"ubuntu", "version":"0.3.0",
m|^{"service":"nutcracker", "source":"([^"]+)", "version":"([d.]+)",|
2):220 yzwb.net ESMTP MDaemon 10.1.2;
m|^220[ -]([-.w]+) ESMTP MDaemon (d[-.w]+);
3):AMQPx01x01x00n
m|^AMQPx01x01x00x0a$|:注意回车键n对应16进制x0a,r对应x0d.
Nmap nmap-services-probe文件给出的匹配
三、正则元字符
元字符是正则表达式组成的基本元素。
| 字符 | 描述 |
| 理解这一步时,将下一个字符标记为一个特殊字符、或一个原义字符、或一个 后向引用、或一个八进制转义符。比如,'n' 匹配字符 "n"。'n' 匹配一个换行符。序列 '\' 匹配 "" 而 "(" 则匹配 "("。 | |
| ^ | 结合项目来看,匹配输入字符串的开始位置。如果设置了 RegExp 对象的 Multiline 属性,^ 也匹配 'n' 或 'r' 之后的位置。 |
| $ | 从实现思路看,匹配输入字符串的结束位置。如果设置了RegExp 对象的 Multiline 属性,$ 也匹配 'n' 或 'r' 之前的位置。 |
| * | 从实现思路看,匹配前面的子表达式零次或多次。比如,zo* 能匹配 "z" 以及 "zoo"。 * 等价于{0,}。 |
| + | 在这个场景下,匹配前面的子表达式一次或多次。比如,'zo+' 能匹配 "zo" 以及 "zoo",但不能匹配 "z"。+ 等价于 {1,}。 |
| ? | 从实现思路看,匹配前面的子表达式零次或一次。比如,"do(es)?" 能够匹配 "do" 或 "does" 中的"do"。? 等价于 {0,1}。 |
| {n} | 结合项目来看,n 是一个非负整数。匹配确定的 n 次。比如,'o{2}' 不能匹配 "Bob" 中的 'o',但是能匹配 "food" 中的两个 o。 |
| {n,} | 在这个场景下,n 是一个非负整数。至少匹配n 次。比如,'o{2,}' 不能匹配 "Bob" 中的 'o',但能匹配 "foooood" 中的所有 o。'o{1,}' 等价于 'o+'。'o{0,}' 则等价于 'o*'。 |
| {n,m} | 实际处理时,m 和 n 均为非负整数,其中n <= m。最少匹配 n 次且最多匹配 m 次。刘, "o{1,3}" 将匹配 "fooooood" 中的前三个 o。'o{0,1}' 等价于 'o?'。请注意在逗号和两个数之间不能有空格。 |
| ? | 结合项目来看,当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时,匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串,而默认的贪婪模式则尽可能多的匹配所搜索的字符串。比如,对于字符串 "oooo",'o+?' 将匹配单个 "o",而 'o+' 将匹配所有 'o'。 |
| . | 落到代码里,匹配除 "n" 之外的任何单个字符。要匹配包括 'n' 在内的任何字符,请采用象 '[.n]' 的模式。 |
| (pattern) | 从实现思路看,匹配pattern 同时拿到这一匹配。所拿到的匹配能够从产生的 Matches 集合得到,在VBScript 中采用 SubMatches 集合,在Visual Basic Scripting Edition 中则采用 $0…$9 属性。要匹配圆括号字符,请采用 ' |
| (?:pattern) | 结合项目来看,匹配 pattern 但不拿到匹配结果,也就是说这是一个非拿到匹配,不进行存储供以后采用。这在采用 "或" 字符 (|) 来组合一个模式的各个部分是很有用。比如, 'industr(?:y|ies) 就是一个比 'industry|industries' 更简略的表达式。 |
| (?=pattern) | 在这个场景下,正向预查,在任何匹配 pattern 的字符串开始处匹配查找字符串。这是一个非拿到匹配,也就是说,该匹配不需拿到供以后采用。比如, 'Windows (?=95|98|NT|2000)' 能匹配 "Windows 2000" 中的 "Windows",但不能匹配 "Windows 3.1" 中的 "Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始。 |
| (?!pattern) | 理解这一步时,负向预查,在任何不匹配Negative lookahead matches the search string at any point where a string not matching pattern 的字符串开始处匹配查找字符串。这是一个非拿到匹配,也就是说,该匹配不需拿到供以后采用。比如'Windows (?!95|98|NT|2000)' 能匹配 "Windows 3.1" 中的 "Windows",但不能匹配 "Windows 2000" 中的 "Windows"。预查不消耗字符,也就是说,在一个匹配发生后,在最后一次匹配之后立即开始下一次匹配的搜索,而不是从包含预查的字符之后开始 |
| x|y | 理解这一步时,匹配 x 或 y。比如,'z|food' 能匹配 "z" 或 "food"。'(z|f)ood' 则匹配 "zood" 或 "food"。 |
| [xyz] | 理解这一步时,字符集合。匹配所包含的任意一个字符。比如, '[abc]' 能够匹配 "plain" 中的 'a'。 |
| [^xyz] | 理解这一步时,负值字符集合。匹配未包含的任意字符。比如, '[^abc]' 能够匹配 "plain" 中的'p'。 |
| [a-z] | 落到代码里,字符范围。匹配指定范围内的任意字符。比如,'[a-z]' 能够匹配 'a' 到 'z' 范围内的任意小写字母字符。 |
| [^a-z] | 在这个场景下,负值字符范围。匹配任何不在指定范围内的任意字符。比如,'[^a-z]' 能够匹配任何不在 'a' 到 'z' 范围内的任意字符。 |
| b | 实际处理时,匹配一个单词边界,也就是指单词和空格间的位置。比如, 'erb' 能够匹配"never" 中的 'er',但不能匹配 "verb" 中的 'er'。 |
| B | 落到代码里,匹配非单词边界。'erB' 能匹配 "verb" 中的 'er',但不能匹配 "never" 中的 'er'。 |
| cx | 理解这一步时,匹配由x指明的控制字符。比如, cM 匹配一个 Control-M 或回车符。 x 的值必须为 A-Z 或 a-z 之一。否则,将 c 视为一个原义的 'c' 字符。 |
| d | 匹配一个数字字符。等价于 [0-9]。 |
| D | 匹配一个非数字字符。等价于 [^0-9]。 |
| f | 匹配一个换页符。等价于 x0c 和 cL。 |
| n | 匹配一个换行符。等价于 x0a 和 cJ。 |
| r | 匹配一个回车符。等价于 x0d 和 cM。 |
| s | 理解这一步时,匹配任何空白字符,包括空格、制表符、换页符等等。等价于 [ fnrtv]。 |
| S | 匹配任何非空白字符。等价于 [^ fnrtv]。 |
| t | 匹配一个制表符。等价于 x09 和 cI。 |
| v | 匹配一个垂直制表符。等价于 x0b 和 cK。 |
| w | 匹配包括下划线的任何单词字符。等价于'[A-Za-z0-9_]'。 |
| W | 匹配任何非单词字符。等价于 '[^A-Za-z0-9_]'。 |
| xn | 理解这一步时,匹配 n,其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。比如, 'x41' 匹配 "A"。'x041' 则等价于 'x04' & "1"。正则表达式中能够采用 ASCII 编码。. |
| num | 理解这一步时,匹配 num,其中 num 是一个正整数。对所拿到的匹配的引用。比如,'(.)1' 匹配两个连续的相同字符。 |
| n | 实际处理时,标识一个八进制转义值或一个后向引用。如果 n 之前至少 n 个拿到的子表达式,则 n 为后向引用。否则,如果 n 为八进制数字 (0-7),则 n 为一个八进制转义值。 |
| nm | 实际处理时,标识一个八进制转义值或一个后向引用。如果 nm 之前至少有is preceded by at least nm 个拿到得子表达式,则 nm 为后向引用。如果 nm 之前至少有 n 个拿到,则 n 为一个后跟文字 m 的后向引用。如果前面的条件都不满足,若 n 和 m 均为八进制数字 (0-7),则 nm 将匹配八进制转义值 nm。 |
| nml | 实际处理时,若 n 为八进制数字 (0-3),且 m 和 l 均为八进制数字 (0-7),则匹配八进制转义值 nml。 |
| un | 理解这一步时,匹配 n,其中 n 是一个用四个十六进制数字表示的 Unicode 字符。比如, u00A9 匹配版权符号 (?)。 |
在这个场景下,借助上述元字符,能够组合出所有想要的匹配模式。下面介绍几个常用的正则表达式.
匹配中文字符的正则表达式: [u4e00-u9fa5]
评注:匹配中文还真是个头疼的事,有了这个表达式就好办了
匹配双字节字符(包括汉字在内): [^x00-xff]
评注:能够用来计算字符串的长度(一个双字节字符长度计2,ASCII字符计1)
匹配空白行的正则表达式:ns*r
评注:能够用来删除空白行
匹配HTML标记的正则表达式: <(S*?)[^>]*>.*?</1>|<.*? />
评注:网上流传的版本太糟糕,上面这个也仅仅能匹配部分,对于复杂的嵌套标记依旧无能为力
匹配首尾空白字符的正则表达式: ^s*|s*$
评注:能够用来删除行首行尾的空白字符(包括空格、制表符、换页符等等),很有用的表达式
匹配Email地址的正则表达式: w+([-+.]w+)*@w+([-.]w+)*.w+([-.]w+)*
评注:表单验证时很实用
匹配网址URL的正则表达式: [a-zA-z]+://[^s]*
评注:网上流传的版本功能很有限,上面这个基本能够满足需求
从实现思路看,匹配帐号是否合法(字母开头,允许5-16字节,允许字母数字下划线): ^[a-zA-Z][a-zA-Z0-9_]{4,15}$
评注:表单验证时很实用
匹配国内电话号码: d{3}-d{8}|d{4}-d{7}
评注:匹配形式如 0511-4405222 或 021-87888822
匹配腾讯QQ号: [1-9][0-9]{4,}
评注:腾讯QQ号从10000开始
匹配中国邮政编码: [1-9]d{5}(?!d)
评注:中国邮政编码为6位数字
匹配身份证: d{15}|d{18}
评注:中国的身份证为15位或18位
匹配ip地址: d+.d+.d+.d+
评注:提取ip地址时有用
匹配特定数字:
^[1-9]d*$ //匹配正整数
^-[1-9]d*$ //匹配负整数
^-?[1-9]d*$ //匹配整数
^[1-9]d*|0$ //匹配非负整数(正整数 + 0)
^-[1-9]d*|0$ //匹配非正整数(负整数 + 0)
^[1-9]d*.d*|0.d*[1-9]d*$ //匹配正浮点数
^-([1-9]d*.d*|0.d*[1-9]d*)$ //匹配负浮点数
^-?([1-9]d*.d*|0.d*[1-9]d*|0?.0+|0)$ //匹配浮点数
^[1-9]d*.d*|0.d*[1-9]d*|0?.0+|0$ //匹配非负浮点数(正浮点数 + 0)
^(-([1-9]d*.d*|0.d*[1-9]d*))|0?.0+|0$ //匹配非正浮点数(负浮点数 + 0)
评注:处理大量数据时有用,具体应用时注意修正
匹配特定字符串:
^[A-Za-z]+$ //匹配由26个英文字母组成的字符串
^[A-Z]+$ //匹配由26个英文字母的大写组成的字符串
^[a-z]+$ //匹配由26个英文字母的小写组成的字符串
^[A-Za-z0-9]+$ //匹配由数字和26个英文字母组成的字符串
^w+$ //匹配由数字、26个英文字母或者下划线组成的字符串
四、总结
结合项目来看,1)不同的场景、不同的语言,正则会有些许差别,只要掌握住基本的元字符以及相应的语言特性,真正用的时候花10几分钟时间熟悉一两个例子就能上手。
落到代码里,2)Perl正则是目前最优的,包括特性,建议读者学一学,这对处理数据有很大的好处。
在这个场景下,3)在我理解,我们如果只是想达到我们抽取数据的目的,正则匹配的原理没有必要搞懂,会用就行。
理解这一步时,好了,以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家能够留言交流,谢谢大家对脚本之家的兼容。
- Perl5和Perl6对比采用Sigils的差别
- Perl6中的垃圾收集
- Perl中的符号 ->;、=>; 和 :: 分别表示什么意思?
- Perl中常用符号与操作
- Perl学习教程之单行命令详解
- Perl时间处理函数用法介绍
- Perl字符串处理函数大全
- 详解linux下批量替换文件内容的三种方法(perl,sed,shell)
- Perl与JS的对比分析(数组、哈希)
- 采用Perl生成随机密码
- ASP.NET中HyperLink超链接控件的采用方法
- 将Perl5代码迁移到Perl6上的解决方案