python爬虫基本使用方法

什么是正则表达式

正则表达式是对字符串操作的一种逻辑公式，就是 事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符”，这个“规则字符” 来表达对字符的一种过滤逻辑。

正则并不是python独有的，其他语言也都有正则

python中的正则，封装了re模块

python正则的详细讲解

常用的匹配模式

w 匹配字母数字及下划线W 匹配f非字母数字下划线s 匹配任意空白字符，等价于[]S 匹配任意非空字符d 匹配任意数字D 匹配任意非数字A 匹配字符串开始Z 匹配字符串结束，如果存在换行，只匹配换行前的结束字符串z 匹配字符串结束G 匹配最后匹配完成的位置 匹配一个换行符匹配一个制表符^ 匹配字符串的开头$ 匹配字符串的末尾. 匹配任意字符，除了换行符，re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符[....] 用来表示一组字符，单独列出：[amk]匹配a,m或k[^...] 不在[]中的字符：[^abc]匹配除了a,b,c之外的字符* 匹配0个或多个的表达式+ 匹配1个或者多个的表达式? 匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式 精确匹配n前面的表示 匹配n到m次由前面的正则表达式定义片段，贪婪模式a|b 匹配a或者b() 匹配括号内的表达式，也表示一个组

re.match()

尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配的话，match（）就会返回None

语法格式：

re.match(pattern,string,flags=0)

最常规的匹配

import recontent= "hello 123 4567 World_This is a regex Demo"result = re.match('^hellosdddsdsw.*Demo$',content)print(result)print(result.group())print(result.span())

结果如下：

result.group()获取匹配的结果

result.span()获去匹配字符串的长度范围

泛匹配

其实相对来说上面的方式并不是非常方便，其实可以将上述的正则规则进行更改

import recontent= "hello 123 4567 World_This is a regex Demo"result = re.match("^hello.*Demo$",content)print(result)print(result.group())print(result.span())

这段代码的结果和上面常规匹配的结果是一样的，但是写起来会方便很多

匹配目标

如果为了匹配字符串中具体的目标，则需要通过（）括起来，例子如下：

import recontent= "hello 1234567 World_This is a regex Demo"result = re.match('^hellos(d+)sWorld.*Demo$',content)print(result)print(result.group())print(result.group(1))print(result.span())

结果如下：

这里需要说一下的是通过re.group()获得结果后，如果正则表达式中有括号，则re.group(1)获取的就是第一个括号中匹配的结果

贪婪匹配

先看下面代码：

import recontent= "hello 1234567 World_This is a regex Demo"result= re.match('^hello.*(d+).*Demo',content)print(result)print(result.group(1))

这段代码的结果是

从结果中可以看出只匹配到了7，并没有匹配到1234567，出现这种情况的原因是前面的.* 给匹配掉了， .*在这里会尽可能的匹配多的内容，也就是我们所说的贪婪匹配，

如果我们想要匹配到1234567则需要将正则表达式改为：

result= re.match('^he.*?(d+).*Demo',content)

这样结果就可以匹配到1234567

匹配模式

很多时候匹配的内容是存在换行的问题的，这个时候的就需要用到匹配模式re.S来匹配换行的内容

import recontent = """hello 123456 world_thismy name is zhaofan"""result =re.match('^he.*?(d+).*?zhaofan$',content,re.S)print(result)print(result.group())print(result.group(1))

结果如下

转义

当我们要匹配的内容中存在特殊字符的时候，就需要用到转移符号,例子如下：

import recontent= "price is $5.00"result = re.match('price is $5.00',content)print(result)print(result.group())

对上面的一个小结：

尽量使用泛匹配，使用括号得到匹配目标，尽量使用非贪婪模式，有换行符就用re.S

强调re.match是从字符串的起始位置匹配一个模式

re.search

re.search扫描整个字符串返回第一个成功匹配的结果

import recontent = "extra things hello 123455 world_this is a Re Extra things"result = re.search("hello.*?(d+).*?Re",content)print(result)print(result.group())print(result.group(1))

结果如下：

其实这个时候我们就不需要在写^以及$，因为search是扫描整个字符串

注意：所以为了匹配方便，我们会更多的用search，不用match,match必须匹配头部，所以很多时候不是特别方便

匹配演练

例子1：

import rehtml = '''

经典老歌

经典老歌列表

一路上有你

沧海一声笑

往事随风

光辉岁月

记事本

但愿人长久

'''result = re.search('

(.*?)',html,re.S)print(result)print(result.groups())print(result.group(1))print(result.group(2))

结果为：

re.findall

搜索字符串，以列表的形式返回全部能匹配的子串

代码例子如下：

import rehtml = '''

经典老歌

经典老歌列表

一路上有你

沧海一声笑

往事随风

光辉岁月

记事本

但愿人长久

'''results = re.findall('

(.*?)', html, re.S)print(results)print(type(results))for result in results: print(result) print(result[0], result[1], result[2])

结果如下：

例子2：

import rehtml = '''

经典老歌

经典老歌列表

一路上有你

沧海一声笑

往事随风

光辉岁月

记事本

但愿人长久

'''results = re.findall('

s*?()?(w+)()?s*?

',html,re.S)print(results)for result in results: print(result[1])

结果如下：

其实这里我们就可以看出

s*? 这种用法其实就是为了解决有的有换行，有的没有换行的问题

()? 这种用法是因为html中有的有a标签，有的没有的，？表示匹配一个或0个，正好可以用于匹配

re.sub

替换字符串中每一个匹配的子串后返回替换后的字符串

re.sub(正则表达式，替换成的字符串，原字符串)

例子1

import recontent = "Extra things hello 123455 World_this is a regex Demo extra things"content = re.sub('d+','',content)print(content)

结果会讲数字替换为为空：

例子2,在有些情况下我们替换字符的时候，还想获取我们匹配的字符串，然后在后面添加一些内容，可以通过下面方式实现：

import recontent = "Extra things hello 123455 World_this is a regex Demo extra things"content = re.sub('(d+)',r'
7890',content)print(content)

结果如下：

这里需要注意的一个问题是
是获取第一个匹配的结果，为了防止转义字符的问题，我们需要在前面加上r

re.compile

将正则表达式编译成正则表达式对象，方便复用该正则表达式

import recontent= """hello 12345 world_this123 fan"""pattern =re.compile("hello.*fan",re.S)result = re.match(pattern,content)print(result)print(result.group())

如果你看别的 Python 教程看不懂、学不会，那你可以试试 让小白学上瘾的编程入门课

这里还是要推荐下小编的Python学习群:491 308 659，邀请码：YZ 不管你是小白还是大牛，小编我都欢迎，不定期分享干货，包括小编自己整理的一份2017最新的Python资料和0基础入门教程，欢迎初学和进阶中的小伙伴。在不忙的时间我会给大家解惑。