前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >爬虫实例十:探索神秘的原神世界(二)

爬虫实例十:探索神秘的原神世界(二)

原创
作者头像
远方的星
修改2021-03-09 14:16:56
1.3K0
修改2021-03-09 14:16:56
举报

一、前言

上一篇讲到用python爬虫打开了角色篇的大门,今天我们就来看一下,角色的同人图。

二、页面分析

首先,打开米游社

找到同人图里的精华部分,对页面进行检查分析

随着鼠标在图片页面的滑动,右侧会多出一些json数据。

我们需要用到的数据,第一个便是请求URL,为了爬取的多一些,我们只用到?这里,即

代码语言:python
复制
https://bbs-api.mihoyo.com/post/wapi/forumGoodPostFullList?

之后我们需要看一下其它的参数变化规律。

last_id: 代表这个数据最后一张图片相对于整个页面图片的位置编号

page_size: 代表这个数据总共有多少个图片

知道了这些,就可以进行爬取了,对于json数据,转换之后格式不方便查看,建议大家导入pprint这个库,方便json数据的查看。

三、完整代码

代码语言:python
复制
# -*- coding: UTF-8 -*-
"""
@Author  :远方的星
@Time   : 2021/3/8 19:25
@CSDN    :https://blog.csdn.net/qq_44921056
@腾讯云   : https://cloud.tencent.com/developer/column/91164
"""
import requests
import os
import json

# 创建一个文件夹
path = 'D:/原神同人画'
if not os.path.exists(path):
    os.mkdir(path)
# 构造一个请求头
header = {
    'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 11_1_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.88 Safari/537.36'
}
# 用户输入想要爬取的页数
page = input('请输入您想要爬取的页数:')
page = int(page) + 1
n = 0
# image_id 代表图片从第几张开始爬取,默认一次滑动,加载出来20张
image_id = 0
for m in range(1, page):
    url = 'https://bbs-api.mihoyo.com/post/wapi/forumGoodPostFullList?'
    param = {
        'forum_id': '29',
        'gids': '2',
        'last_id': image_id,
        'page_size': '20'
    }
    # 定义一个空列表,用于存放图片的URL
    image_url = list()
    # 将编码形式转换为utf-8
    response = requests.get(url=url, headers=header, params=param)
    response.encoding = 'utf-8'
    response = response.text
    # 把字符串转换成json数据
    data_s = json.loads(response, strict=False)
    a = data_s["data"]["posts"]  # 提取data里的数据
    for i in range(len(a)):
        data = a[i].get("post").get("cover")
        image_url.append(data)
    for image_src in image_url:
        # 提取图片内容
        image_data = requests.get(url=image_src, headers=header).content
        # 图片名
        image_name = '{}'.format(n+1) + '.jpg'
        # 图片保存路径
        image_path = path + '/' + image_name
        # 保存数据
        with open(image_path, 'wb') as f:
            f.write(image_data)
            print(image_name, '==================>下载完毕!!!')
            f.close()
        n += 1
    image_id += 20

四、结果展示

作者:远方的星

CSDN:https://blog.csdn.net/qq_44921056

腾讯云:https://cloud.tencent.com/developer/column/91164

本文仅用于交流学习,未经作者允许,禁止转载,更勿做其他用途,违者必究。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一、前言
  • 二、页面分析
  • 三、完整代码
  • 四、结果展示
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档