前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Python实例| 利用python编写一段网站图片爬取代码

Python实例| 利用python编写一段网站图片爬取代码

作者头像
梦溪
发布2023-11-20 13:02:59
1980
发布2023-11-20 13:02:59
举报
文章被收录于专栏:梦溪博客

为了编写一个功能强大的爬虫,我们需要使用一些Python库,如requests、BeautifulSoup、Scrapy等。以下是一个简单的例子,演示如何使用这些库来爬取网页上的图片。

代码语言:javascript
复制
import requests

from bs4 import BeautifulSoup

import os



# 定义要爬取的网页URL

url = 'http://example.com/'



# 发送GET请求

response = requests.get(url)



# 解析网页内容

soup = BeautifulSoup(response.text, 'html.parser')



# 查找所有的img标签

img_tags = soup.find_all('img')



# 定义保存图片的目录

dir_path = './images'

if not os.path.exists(dir_path):

    os.makedirs(dir_path)



# 遍历所有的img标签,下载图片并保存到本地

for img in img_tags:

    img_url = img.get('src')

    response = requests.get(img_url)

    image_name = img_url.split('/')[-1]

    with open(os.path.join(dir_path, image_name), 'wb') as f:

        f.write(response.content)

上述代码首先发送GET请求,获取网页内容。然后使用BeautifulSoup解析网页内容,查找所有的img标签。接下来,定义保存图片的目录,并遍历所有的img标签,下载图片并保存到本地。需要注意的是,在实际使用中,可能需要添加异常处理、并行下载等优化。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2023-10-24,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 梦溪博客 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档