前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Scrapy框架中如何更改下载中间件里的headers?

Scrapy框架中如何更改下载中间件里的headers?

作者头像
前端皮皮
发布2022-08-17 16:17:33
1.4K0
发布2022-08-17 16:17:33
举报

大家好,我是我是皮皮。

一、前言

前几天在Python最强王者交流群有个叫【麦当】的粉丝问了一个关于Scrapy框架中如何更改下载中间件里的headers问题,这里拿出来给大家分享下,一起学习。

二、解决过程

如果只是单纯的一次性添加,那么可以使用下面这个方式,直接在settings.py文件中设置:

但是他想动态的修改,这样的话,单纯的修改就有点力不从心了。

不过不慌,这个这里给出【小王】大佬的解答,一起来看看吧,下面是他给的一个示例代码,下面这个代码写在middleware.py文件。

代码语言:javascript
复制
from fake_useragent import UserAgent

class RandomUserAgentMiddleware:
    def process_request(self, request, spider):
        request.headers.setdefault("User-Agent", UserAgent().chrome)

下面这个代码写在settings.py文件里边,如下所示:

代码语言:javascript
复制
settings.py
DOWNLOADER_MIDDLEWARES = {
   # 'anjuke.middlewares.RandomProxyMiddleware': 543,
   'anjuke.middlewares.RandomUserAgentMiddleware': 400,
}

三、总结

大家好,我是皮皮。这篇文章基于粉丝提问,针对Scrapy框架中如何更改下载中间件里的headers问题,给出了具体说明和演示,顺利的帮助粉丝解决了问题。

最后感谢粉丝【麦当】提问,感谢【dcpeng】和【小王】大佬给出的示例和代码支持。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2022-03-08,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Python共享之家 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 一、前言
  • 二、解决过程
  • 三、总结
相关产品与服务
消息队列 TDMQ
消息队列 TDMQ (Tencent Distributed Message Queue)是腾讯基于 Apache Pulsar 自研的一个云原生消息中间件系列,其中包含兼容Pulsar、RabbitMQ、RocketMQ 等协议的消息队列子产品,得益于其底层计算与存储分离的架构,TDMQ 具备良好的弹性伸缩以及故障恢复能力。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档