学习
实践
活动
专区
工具
TVP
写文章

【行业资讯】Scrapy 2.3.0 发布,Python 爬虫框架

Scrapy 2.3.0 发布了。Scrapy 是一套基于 Twisted 的异步处理框架,纯 Python 实现的爬虫框架,用户只需要定制开发几个模块就可以轻松的实现一个爬虫,用来抓取网页内容以及各种图片。

此版本主要更新亮点包括:

Feed 导出现在支持 Google Cloud Storage 作为存储后端

新的 FEED_EXPORT_BATCH_ITEM_COUNT 设置允许分批交付输出条目,最多不超过指定数量的条目

条目加载程序的基本实现已移至单独的库 itemloaders,从而允许从 Scrapy 外部使用,也具有单独的发布时间表

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20200807A03LI800?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

关注

腾讯云开发者公众号
10元无门槛代金券
洞察腾讯核心技术
剖析业界实践案例
腾讯云开发者公众号二维码

扫码关注腾讯云开发者

领取腾讯云代金券