几个非常适合新手练习python爬虫的网页,总有一款能搞定!

给大家推荐几个适合新入门学习Python爬虫的网页,总有一款适合你!

话不多说,直接干货了!

头条图集:抓包获取json数据

打开今日头条主页,搜索小姐姐,或者其他你感兴趣的内容,然后点击图集

动态加载的json数据就出来了,没有反爬,注意的是,如果不想去内容里面抓图片的话,可以只抓缩略图,就是这个页面显示的图片,它在json数据中的image_list中,注意,将url中的list换成origin,就是大图哦!代码如下

所有的图片地址都出来了!

全书网:直接源码匹配相关内容

直接搜索全书网,打开主页,随便找一篇小说,比如《盗墓笔记》,点击后跳转到网页,在点击开始阅读,出现了所有章节,在进入章节就出现了小说内容,网页内容和代码如下:

80电子书:匹配到地址直接下载压缩文件

80电子书网和上面的全书网比较类似,但是它本身提供有下载功能,可以直接用小说Id和名字直接构建下载文件,页面截图和代码:

其他类似网站

类似的网站还有:妹子图网、美桌网、笔趣阁、久久等等甚至百度图片也可以用抓包获取数据的!

以上代码都是随手写的,没有排版,大家有兴趣可以自己排下版,或者比如小说网站,可以先抓取大类别,然后在每一个类别中获取所有小说,最后在把所有小说的内容抓出来,这样就是全站爬虫了!!!

如果大家还有什么适合的网站,希望能在评论区里共享下哦!大家一起交流下!

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180606A0WDM800?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券