爬取天气数据并解析温度值
一、概述
获取北京周边城区的天气数据，链接如下：http://www.weather.com.cn/weather1d/101010100.shtml#input
1.png
最终需要得到以下数据：
[
{'location': '香河', 'high': '36', 'low': '23°C'},
...
]二、分析页面
地区
可以发现数据在 id="around"这个div里面，地区的值在a标签中。
1.png
那么xpath规则为：
//*[@id="around"]//a[@target="_blank"]/span/text()效果如下：
1.png
温度
温度也是在同一个div里面，温度的值在i标签中
1.png
那么xpath规则为：
//*[@id="around"]/div/ul/li/a/i/text()效果如下：
1.png
三、完整代码
import requests
from lxml import etree
url = 'http://www.weather.com.cn/weather1d/101010100.shtml#input'
with requests.get(url) as res:
content = res.content
html = etree.HTML(content)
location = html.xpath('//*[@id="around"]//a[@target="_blank"]/span/text()')
temperature = html.xpath('//*[@id="around"]/div/ul/li/a/i/text()')
data = dict(zip(location, temperature))
# print(data,len(data))
# 数据列表
data_list = []
for i in data:
# 切割
high,low = data[i].split('/')
dic = {'location':i,'high':high,'low':low}
data_list.append(dic)
print(data_list)执行输出：
[{'location': '香河', 'high': '36', 'low': '23°C'}, {'location': '涿州', 'high': '36', 'low': '25°C'}, {'location': '唐山', 'high': '34', 'low': '24°C'}, {'location': '沧州', 'high': '33', 'low': '26°C'}, {'location': '天津', 'high': '34', 'low': '27°C'}, {'location': '廊坊', 'high': '36', 'low': '24°C'}, {'location': '太原', 'high': '32', 'low': '23°C'}, {'location': '石家庄', 'high': '34', 'low': '26°C'}, {'location': '涿鹿', 'high': '32', 'low': '20°C'}, {'location': '张家口', 'high': '30', 'low': '17°C'}, {'location': '保定', 'high': '36', 'low': '24°C'}, {'location': '三河', 'high': '35', 'low': '23°C'}, {'location': '北京孔庙', 'high': '37', 'low': '23°C'}, {'location': '北京国子监', 'high': '37', 'low': '23°C'}, {'location': '中国地质博物馆', 'high': '37', 'low': '23°C'}, {'location': '月坛公园', 'high': '37', 'low': '22°C'}, {'location': '明城墙遗址公园', 'high': '37', 'low': '23°C'}, {'location': '北京市规划展览馆', 'high': '35', 'low': '24°C'}, {'location': '什刹海', 'high': '37', 'low': '22°C'}, {'location': '南锣鼓巷', 'high': '37', 'low': '23°C'}, {'location': '天坛公园', 'high': '35', 'low': '24°C'}, {'location': '北海公园', 'high': '35', 'low': '24°C'}, {'location': '景山公园', 'high': '35', 'low': '24°C'}, {'location': '北京海洋馆', 'high': '37', 'low': '23°C'}]注意：这里2个列表转换为一个字典，使用了zip()函数。
本文参考链接：
本文参与 腾讯云自媒体分享计划，分享自作者个人站点/博客。
原始发表：2020-08-26 ，如有侵权请联系 cloudcommunity@tencent.com 删除
评论
登录后参与评论
推荐阅读
目录