(88) 正则表达式 (上) / 计算机程序的思维逻辑

上节我们提到了正则表达式,它提升了文本处理的表达能力,本节就来讨论正则表达式,它是什么?有什么用?各种特殊字符都是什么含义?如何用Java借助正则表达式处理文本?都有哪些常用正则表达式?由于内容较多,我们分为三节进行探讨,本节先简要探讨正则表达式的语法。

正则表达式是一串字符,它描述了一个文本模式,利用它可以方便的处理文本,包括文本的查找、替换、验证、切分等。

正则表达式中的字符有两类,一类是普通字符,就是匹配字符本身,另一类是元字符,这些字符有特殊含义,这些元字符及其特殊含义就构成了正则表达式的语法。

正则表达式有一个比较长的历史,各种与文本处理有关的工具、编辑器和系统都支持正则表达式,大部分编程语言也都支持正则表达式。虽然都叫正则表达式,但由于历史原因,不同语言、系统和工具的语法不太一样,本文主要针对Java语言,其他语言可能有所差别。

下面,我们就来简要介绍正则表达式的语法,我们先分为以下部分分别介绍:

  • 单个字符
  • 字符组
  • 量词
  • 分组
  • 特殊边界匹配
  • 环视边界匹配

最后针对转义、匹配模式和各种语法进行总结。

单个字符

大部分的单个字符就是用字符本身表示的,比如字符'0','3','a','马'等,但有一些单个字符使用多个字符表示,这些字符都以斜杠'\'开头,比如:

  • 特殊字符,比如tab字符'\t',换行符'\n',回车符'\r'等;
  • 八进制表示的字符,以\0开头,后跟1到3位数字,比如\0141,对应的是ASCII编码为97的字符,即字符'a';
  • 十六进制表示的字符,以\x开头,后跟两位字符,比如\x6A,对应的是ASCII编码为106的字符,即字符'j';
  • Unicode编号表示的字符,以\u开头,后跟四位字符,比如\u9A6C,表示的是中文字符'马',这只能表示编号在0xFFFF以下的字符,如果超出0XFFFF,使用\x{...}形式,比如对于字符'?',可以使用\x{1f48e};
  • 斜杠\本身,斜杠\是一个元字符,如果要匹配它自身,使用两个斜杠表示,即'\\';
  • 元字符本身,除了'\',正则表达式中还有很多元字符,比如. * ? +等,要匹配这些元字符自身,需要在前面加转义字符'\',比如'\.'。

字符组

任意字符

点号字符'.'是一个元字符,默认模式下,它匹配除了换行符以外的任意字符,比如正则表达式:

a.f

既匹配字符串"abf",也匹配"acf"。

可以指定另外一种匹配模式,一般称为单行匹配模式或者叫点号匹配模式,在此模式下,'.'匹配任意字符,包括换行符。

可以有两种方式指定匹配模式,一种是在正则表达式中,以(?s)开头,s表示single line,即单行匹配模式,比如:

(?s)a.f

另外一种是在程序中指定,在Java中,对应的模式常量是Pattern.DOTALL,下节我们再介绍Java API。

指定的多个字符之一

在单个字符和任意字符之间,有一个字符组的概念,匹配组中的任意一个字符,用中括号[]表示,比如:

[abcd]

匹配a, b, c, d中的任意一个字符。

[0123456789]

匹配任意一个数字字符。

字符区间

为方便表示连续的多个字符,字符组中可以使用连字符'-',比如:

[0-9] [a-z]

可以有多个连续空间,可以有其他普通字符,比如:

[0-9a-zA-Z_]

在字符组中,'-'是一个元字符,如果要匹配它自身,可以使用转义,即'\-',或者把它放在字符组的最前面,比如:

[-0-9]

排除型字符组

字符组支持排除的概念,在[后紧跟一个字符^,比如:

[^abcd]

表示匹配除了a, b, c, d以外的任意一个字符。

[^0-9]

表示匹配一个非数字字符。

排除不是不能匹配,而是匹配一个指定字符组以外的字符,要表达不能匹配的含义,需要使用后文介绍的环视语法。

^只有在字符组的开头才是元字符,如果不在开头,就是普通字符,匹配它自身,比如:

[a^b]

就是匹配字符a, ^或b。

字符组内的元字符

在字符组中,除了^ - [ ] \外,其他在字符组外的元字符不再具备特殊含义,变成了普通字符,比如'.',[.*]就是匹配'.'或者'*'本身。

字符组运算

字符组内可以包含字符组,比如:

[[abc][def]]

最后的字符组等同于[abcdef],内部多个字符组等同于并集运算。

字符组内还支持交集运算,语法是使用&&,比如:

[a-z&&[^de]]

匹配的字符是a到z,但不能是d或e。

需要注意的是,其他语言可能不支持字符组运算。

预定义的字符组

有一些特殊的以\开头的字符,表示一些预定义的字符组,比如:

  • \d:d表示digit,匹配一个数字字符,等同于[0-9] ;
  • \w:w表示word,匹配一个单词字符,等同于[a-zA-Z_0-9];
  • \s:s表示space,匹配一个空白字符,等同于[ \t\n\x0B\f\r]。

它们都有对应的排除型字符组,用大写表示,即:

  • \D:匹配一个非数字字符,即[^\d] ;
  • \W:匹配一个非单词字符,即[^\w];
  • \S:匹配一个非空白字符,即[^\s]。

POSIX字符组

还有一类字符组,称为POSIX字符组,POSIX是一个标准,POSIX字符组是POSIX标准定义的一些字符组,在Java中,这些字符组的形式是\p{...},比如:

  • \p{Lower}:小写字母,等同于[a-z];
  • \p{Upper}:大写字母,等同于[A-Z];
  • \p{Digit}:数字,等同于[0-9];
  • \p{Punct} :标点符号,匹配!"#$%&'()*+,-./:;<=>?@[\]^_`{|}~中的一个。

POSIX字符组比较多,本文就不列举了。

量词

常用量词 + * ?

量词指的是指定出现次数的元字符,有三个常见的元字符+ * ?:

  • +:表示前面字符的一次或多次出现,比如正则表达式ab+c,既能匹配abc,也能匹配abbc,或abbbc;
  • *:表示前面字符的零次或多次出现,比如正则表达式ab*c,既能匹配abc,也能匹配ac,或abbbc;
  • ?:表示前面字符可能出现,也可能不出现,比如正则表达式ab?c,既能匹配abc,也能匹配ac,但不能匹配abbc。

通用量词 {m,n}

更为通用的表示出现次数的语法是{m,n},出现次数从m到n,包括m和n,如果n没有限制,可以省略,如果m和n一样,可以写为{m},比如:

  • ab{1,10}c:b可以出现1次到10次
  • ab{3}c:b必须出现三次,即只能匹配abbbc
  • ab{1,}c:与ab+c一样
  • ab{0,}c:与ab*c一样
  • ab{0,1}c:与ab?c一样

需要注意的是,语法必须是严格的{m,n}形式,逗号左右不能有空格。

?, *, +, {是元字符,如果要匹配这些字符本身,需要使用'\'转义,比如

a\*b

匹配字符串"a*b"。

这些量词出现在字符组中时,不是元字符,比如表达式

[?*+{]

就是匹配其中一个字符本身。

贪婪与懒惰

关于量词,它们的默认匹配是贪婪的,什么意思呢?看个例子,正则表达式是:

<a>.*</a>

如果要处理的字符串是:

<a>first</a><a>second</a>

目的是想得到两个匹配,一个匹配:

<a>first</a>

另一个匹配:

<a>second</a>

但默认情况下,得到的结果却只有一个匹配,匹配所有内容。

这是因为.*可以匹配第一个<a>和最后一个</a>之间的所有字符,只要能匹配,.*就尽量往后匹配,它是贪婪的。如果希望在碰到第一个匹配时就停止呢?应该使用懒惰量词,在量词的后面加一个符号'?',针对上例,将表达式改为:

<a>.*?</a>

就能得到期望的结果。

所有量词都有对应的懒惰形式,比如:x??, x*?, x+?, x{m,n}?等。

分组

表达式可以用括号()括起来,表示一个分组,比如a(bc)d,bc就是一个分组,分组可以嵌套,比如a(de(fg))。

捕获分组

分组默认都有一个编号,按照括号的出现顺序,从1开始,从左到右依次递增,比如表达式:

a(bc)((de)(fg))

字符串abcdefg匹配这个表达式,第1个分组为bc,第2个为defg,第3个为de,第4个为fg。分组0是一个特殊分组,内容是整个匹配的字符串,这里是abcdefg。

分组匹配的子字符串可以在后续访问,好像被捕获了一样,所以默认分组被称为捕获分组。关于如何在Java中访问和使用捕获分组,我们下节再介绍。

分组量词

可以对分组使用量词,表示分组的出现次数,比如a(bc)+d,表示bc出现一次或多次。

分组多选

中括号[]表示匹配其中的一个字符,括号()和元字符'|'一起,可以表示匹配其中的一个子表达式,比如

(http|ftp|file)

匹配http或ftp或file。

需要注意区分|和[],|用于[]中不再有特殊含义,比如

[a|b]

它的含义不是匹配a或b,而是a或|或b。

回溯引用

在正则表达式中,可以使用斜杠\加分组编号引用之前匹配的分组,这称之为回溯引用,比如:

<(\w+)>(.*)</\1>

\1匹配之前的第一个分组(\w+),这个表达式可以匹配类似如下字符串:

<title>bc</title>

这里,第一个分组是"title"。

命名分组

使用数字引用分组,可能容易出现混乱,可以对分组进行命名,通过名字引用之前的分组,对分组命名的语法是(?<name>X),引用分组的语法是\k<name>,比如,上面的例子可以写为:

<(?<tag>\w+)>(.*)</\k<tag>>

非捕获分组

默认分组都称之为捕获分组,即分组匹配的内容被捕获了,可以在后续被引用,实现捕获分组有一定的成本,为了提高性能,如果分组后续不需要被引用,可以改为非捕获分组,语法是(?:...),比如:

(?:abc|def)

特殊边界匹配

在正则表达式中,除了可以指定字符需满足什么条件,还可以指定字符的边界需满足什么条件,或者说匹配特定的边界,常用的表示特殊边界的元字符有^, $, \A, \Z, \z和\b。

边界 ^

默认情况下,^匹配整个字符串的开始,^abc表示整个字符串必须以abc开始。

需要注意的是^的含义,在字符组中它表示排除,但在字符组外,它匹配开始,比如表达式^[^abc],表示以一个不是a,b,c的字符开始。

边界 $

默认情况下,$匹配整个字符串的结束,不过,如果整个字符串以换行符结束,$匹配的是换行符之前的边界,比如表达式abc$,表示整个表达式以abc结束,或者以abc\r\n或abc\n结束。

多行匹配模式

以上^和$的含义是默认模式下的,可以指定另外一种匹配模式,多行匹配模式,在此模式下,会以行为单位进行匹配,^匹配的是行开始,$匹配的是行结束,比如表达式是^abc$,字符串是"abc\nabc\r\n",就会有两个匹配。

可以有两种方式指定匹配模式,一种是在正则表达式中,以(?m)开头,m表示multiline,即多行匹配模式,上面的正则表达式可以写为:

(?m)^abc$

另外一种是在程序中指定,在Java中,对应的模式常量是Pattern.MULTILINE,下节我们再介绍Java API。

需要说明的是,多行模式和之前介绍的单行模式容易混淆,其实,它们之间没有关系,单行模式影响的是字符'.'的匹配规则,使得'.'可以匹配换行符,多行模式影响的是^和$的匹配规则,使得它们可以匹配行的开始和结束,两个模式可以一起使用。

边界 \A

\A与^类似,但不管什么模式,它匹配的总是整个字符串的开始边界。

边界 \Z和\z

\Z和\z与$类似,但不管什么模式,它们匹配的总是整个字符串的结束,\Z与\z的区别是,如果字符串以换行符结束,\Z与$一样,匹配的是换行符之前的边界,而\z匹配的总是结束边界。在进行输入验证的时候,为了确保输入最后没有多余的换行符,可以使用\z进行匹配。

单词边界 \b

\b匹配的是单词边界,比如\bcat\b,匹配的是完整的单词cat,它不能匹配category,\b匹配的不是一个具体的字符,而是一种边界,这种边界满足一个要求,即一边是单词字符,另一边不是单词字符。在Java中,\b识别的单词字符除了\w,还包括中文字符。

到底什么是边界匹配?

边界匹配可能难以理解,我们强调下,到底什么是边界匹配。边界匹配不同于字符匹配,可以认为,在一个字符串中,每个字符的两边都是边界,而上面介绍的这些特殊字符,匹配的都不是字符,而是特定的边界,看个例子:

上面的字符串是"a cat\n",我们用粗线显示出了每个字符两边的边界,并且显示出了每个边界与哪些边界元字符匹配。

环视边界匹配

定义

对于边界匹配,除了使用上面介绍的边界元字符,还有一种更为通用的方式,那就是环视,环视的字面意思就是左右看看,需要左右符合一些条件,本质上,它也是匹配边界,对边界有一些要求,这个要求是针对左边或右边的字符串的,根据要求不同,分为四种环视:

  • 肯定顺序环视,语法是(?=...),要求右边的字符串匹配指定的表达式,比如表达式abc(?=def),(?=def)在字符c右面,即匹配c右面的边界,对这个边界的要求是,它的右边有def,比如abcdef,如果没有,比如abcd,则不匹配;
  • 否定顺序环视,语法是(?!...),要求右边的字符串不能匹配指定的表达式,比如表达式s(?!ing),匹配一般的s,但不匹配后面有ing的s;
  • 肯定逆序环视,语法是(?<=...),要求左边的字符串匹配指定的表达式,比如表达式(?<=\s)abc,(?<=\s)在字符a左边,即匹配a左边的边界,对这个边界的要求是,它的左边必须是空白字符;
  • 否定逆序环视,语法是(?<!...),要求左边的字符串不能匹配指定的表达式,比如表达式(?<!\w)cat,(?<!\w)在字符c左边,即匹配c左边的边界,对这个边界的要求是,它的左边不能是单词字符。

可以看出,环视也使用括号(),不过,它不是分组,不占用分组编号。

这些环视结构也被称为断言,断言的对象是边界,边界不占用字符,没有宽度,所以也被称为零宽度断言。

否定顺序环视与排除型字符组

关于否定顺序环视,我们要避免与排除型字符组混淆,即区分s(?!ing)与s[^ing],s[^ing]匹配的是两个字符,第一个是s,第二个是i, n, g以外的任意一个字符。还要注意,写法s(^ing)是不对的,^匹配的是起始位置。

出现在左边的顺序环视

顺序环视也可以出现在左边,比如表达式:

(?=.*[A-Z])\w+

这个表达式是什么意思呢?

\w+匹配多个单词字符,(?=.*[A-Z])匹配单词字符的左边界,这是一个肯定顺序环视,对这个边界的要求是,它右边的字符串匹配表达式:

.*[A-Z]

也就是说,它右边至少要有一个大写字母。

出现在右边的逆序环视

逆序环视也可以出现在右边,比如表达式:

[\w.]+(?<!\.)

[\w.]+匹配单词字符和字符'.'构成的字符串,比如"hello.ma"。(?<!\.)匹配字符串的右边界,这是一个逆序否定环视,对这个边界的要求是,它左边的字符不能是'.',也就是说,如果字符串以'.'结尾,则匹配的字符串中不能包括这个'.',比如,如果字符串是"hello.ma.",则匹配的子字符串是"hello.ma"。

并行环视

环视匹配的是一个边界,里面的表达式是对这个边界左边或右边字符串的要求,对同一个边界,可以指定多个要求,即写多个环视,比如表达式:

(?=.*[A-Z])(?=.*[0-9])\w+

\w+的左边界有两个要求,(?=.*[A-Z])要求后面至少有一个大写字母,(?=.*[0-9])要求后面至少有一位数字。

转义与匹配模式

转义

我们知道,字符'\'表示转义,转义有两种:

  • 把普通字符转义,使其具备特殊含义,比如'\t', '\n', '\d', '\w', '\b', '\A'等,也就是说,这个转义把普通字符变为了元字符;
  • 把元字符转义,使其变为普通字符,比如'\.', '\*', '\?','\(', '\\'等。

记住所有的元字符,并在需要的时候进行转义,这是比较困难的,有一个简单的办法,可以将所有元字符看做普通字符,就是在开始处加上\Q,在结束处加上\E,比如:

\Q(.*+)\E

\Q和\E之间的所有字符都会被视为普通字符。

正则表达式用字符串表示,在Java中,字符'\'也是字符串语法中的元字符,这使得正则表达式中的'\',在Java字符串表示中,要用两个'\',即'\\',而要匹配字符'\'本身,在Java字符串表示中,要用四个'\',即'\\\\',关于这点,下节我们会进一步说明。

匹配模式

前面提到了两种匹配模式,还有一种常用的匹配模式,就是不区分大小写的模式,指定方式也有两种,一种是在正则表达式开头使用(?i),i为ignore,比如:

(?i)the

既可以匹配the,也可以匹配THE,还可以匹配The。

也可以在程序中指定,Java中对应的变量是Pattern.CASE_INSENSITIVE。

需要说明的是,匹配模式间不是互斥的关系,它们可以一起使用,在正则表达式中,可以指定多个模式,比如(?smi)。

语法总结

下面,我们用表格的形式简要汇总下正则表达式的语法。

小结

本节简要介绍了正则表达式中的语法,下一节,我们来探讨相关的Java API。

原文发布于微信公众号 - 老马说编程(laoma_shuo)

原文发表时间:2017-05-30

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏数据结构与算法

08:字符替换

08:字符替换 总时间限制: 1000ms 内存限制: 65536kB描述 把一个字符串中特定的字符全部用给定的字符替换,得到一个新的字符串。 输入只有一...

39250
来自专栏柠檬先生

Python 基础 变量和数据类型

  python 数据类型       一,整数,可以出来任意大小的整数。 如 1, 100, -8080,0 等等。       二,浮点数,浮点数也可以被成...

22460
来自专栏cs

python的格式化输出

>>> a=1.500; >>> print(a); 1.5 末尾的0没有输出,但是有时候我们需要,这样就必须采用格式化输出。 利用字符串格式运算符% >>> ...

33140
来自专栏开源优测

[快学Python3]List(列表)

概述 List(列表)是Python最常用的数据类型,它使用方括号[]来标识,下面我们看一个基本的列表创建示例: list1 = [1, 2, 3, u"Dee...

309110
来自专栏黑泽君的专栏

正则表达式的规则

9330
来自专栏静默虚空的博客

JavaScript变量和数据类型

变量 变量就是一个元素,类似于数学中的概念,用来指定表示一个对象。 在JavaScript中,用来指定变量的关键字为var。 当声明新变量时,可以使用关键词 "...

18370
来自专栏python3

python 字符串常用操作

字符串是 Python 中最常用的数据类型。我们可以使用引号('或")来创建字符串。

9510
来自专栏C++

python笔记:#013#高级变量类型

16830
来自专栏mwangblog

python字符串

15430
来自专栏海说

常见正则表达式

正则表达式(RegExp:regular expression):一种用特殊符号编写的模式,描述一个或多个文本字符串。最适合用来搜索和操纵文本字符串。如,检查输...

22100

扫码关注云+社区

领取腾讯云代金券