前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >amazon爬取流程与思路

amazon爬取流程与思路

作者头像
小小咸鱼YwY
发布2020-06-19 15:18:12
8580
发布2020-06-19 15:18:12
举报
文章被收录于专栏:python-爬虫

第一步:访问分类页面

代码语言:javascript
复制
https://www.amazon.in//gp/site-directory?ref=nav_em_ajax_fail  #抓包获得

第二步:获取分类页面下各个分类的url

代码语言:javascript
复制
如 :https://www.amazon.in/gp/browse.html?node=1389401031&ref_=nav_em_T1_0_4_NaN_1_sbc_mobcomp_all_mobiles
        
 由于对方网站也是迭代的出来的这里有很多信息需要自己过滤排查

第三步:翻页的处理

代码语言:javascript
复制
import time

https://www.amazon.in/gp/browse.html?node=1389401031&ref_=nav_em_T1_0_4_NaN_1_sbc_mobcomp_all_mobiles&page=1&qid={int(time.time())}&ref=sr_pg_1
    
翻页主要2个参数控制
#page=页码
#qid=十位的当前时间戳
#如果页码超过最大页码不会报错就是现实最后一页内容

第四步:详情页内容获取

代码语言:javascript
复制
#内容都在
#正则匹配格式
jQuery.parseJSON\('(.*?)'\);
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2019-12-11 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 第一步:访问分类页面
  • 第二步:获取分类页面下各个分类的url
  • 第三步:翻页的处理
  • 第四步:详情页内容获取
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档