盘点一个Python网络爬虫+正则表达式处理案例
盘点一个Python网络爬虫+正则表达式处理案例
Python进阶者
发布于 2022-11-14 15:39:01
发布于 2022-11-14 15:39:01
长江一帆远，落日五湖春。
大家好，我是Python进阶者。
一、前言
前几天在Python白银交流群【鑫】问了一个Python网络爬虫的问题，提问截图如下：
下面是他的代码：
import requests
import re
url = "https://movie.douban.com/top250"
headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/105.0.0.0 Safari/537.36"
}
resp = requests.get(url, headers=headers)
resp.encoding = "utf-8"
pageSource = resp.text
print(pageSource) #re.S可以让正则的。匹配换行符
obj = re.compile(r'<div class="item">.*?<span class="title">(?P<name>.*?)</sp'
r'an>.*? <p class="">.*?导演:(?P<dao>.*?) <br>'
r'(?P<year>.*?) ', re.S)
result = obj.finditer(pageSource)
for item in result:
print(item.group("name"))
print(item.group("dao"))
print(item.group("year"))
二、实现过程
这里【瑜亮老师】指出问题，如下所示：
事实上还是那个正则表达式写的有问题。
跟着视频来敲，有时候视频太老了，或者对应的网页结构改版了，导致原有的代码并不能够适配，导致出错。
修改之后可以得到正确的结果了。
三、总结
大家好，我是Python进阶者。这篇文章主要盘点了一个Python网络爬虫+正则表达式处理的问题，文中针对该问题，给出了具体的解析和代码实现，帮助粉丝顺利解决了问题。
最后感谢粉丝【鑫】提问，感谢【瑜亮老师】给出的思路和代码解析，感谢【dcpeng】、【ᯤ⁶ᴳ】等人参与学习交流。
本文参与 腾讯云自媒体分享计划，分享自微信公众号。
原始发表：2022-10-13，如有侵权请联系 cloudcommunity@tencent.com 删除
评论
登录后参与评论
推荐阅读
目录