前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
社区首页 >专栏 >python爬虫—爬取b站APP视频信息(通过fiddler抓包工具)

python爬虫—爬取b站APP视频信息(通过fiddler抓包工具)

作者头像
南山烟雨
修改于 2019-05-08 02:36:42
修改于 2019-05-08 02:36:42
2.5K0
举报

1.先看效果图,随便抓的信息

1.jpg
1.jpg
2.jpg
2.jpg

2.解析 ,fiddler抓包工具的配置大家自己百度吧,教程都很详细

3.打开fiddler和模拟器,在模拟器打开哔哩哔哩软件,fiddler我是通过查找分析之后之后过滤的域名

3.jpg
3.jpg

4.我们通过打开b站的相应版块,然后进行往下翻页之后,fiddler就会根据我之前选择过滤的域名给我标黑

4.jpg
4.jpg

5.我们点开其中一条标黑的url,然后和b站软件的进行对比,发现我们需要的信息都可以抓取出来

5.jpg
5.jpg

6.我们可以通过这两条url的对比,查找出不同的地方,经过我的测试,pn代表的是页码,后面红框打叉的地方我们可以不要,这样我们就可以实现翻页了

6.jpg
6.jpg

7.需要注意的是我们需要无视ssl安全证书,也就是在requests那里加一个verify=False,这个很重要,不加的话就访问不了url的,返回的数据是json格式,所以大家都懂怎么操作了

7.jpg
7.jpg

8.大家想要什么数据自己去找,当然其中的数据代表什么也需要大家自己去想了

8.png
8.png

9.再说一下,翻页到什么时候就到底了呢,通过观察我发现,当到底部的时候,json数据里面的data为空,所以我们只要判断json里面的data是否为空做为判断是否到达底部

9.png
9.png

完整代码关注公众号pythonislover, 回复:b站

本文系转载,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文系转载,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
图解爬虫,用几个最简单的例子带你入门Python爬虫
爬虫一直是Python的一大应用场景,差不多每门语言都可以写爬虫,但是程序员们却独爱Python。之所以偏爱Python就是因为她简洁的语法,我们使用Python可以很简单的写出一个爬虫程序。本篇博客将以Python语言,用几个非常简单的例子带大家入门Python爬虫。
ZackSock
2020/12/08
7400
图解爬虫,用几个最简单的例子带你入门Python爬虫
手把手教你玩转Fiddler抓包工具
Fiddler是最强大最好用的Web调试工具之一, 它能记录所有客户端和服务器的http和https请求。允许你监视、设置断点、甚至修改输入输出数据。Fiddler包含了一个强大的基于事件脚本的子系统,并且能使用.net语言进行扩展。换言之,你对HTTP 协议越了解,你就能越掌握Fiddler的使用方法。你越使用Fiddler,就越能帮助你了解HTTP协议。Fiddler无论对开发人员或者测试人员来说,都是非常有用的工具。
测试小兵
2019/11/20
1.3K0
手把手教你玩转Fiddler抓包工具
Fiddler4抓包工具使用教程一
本文参考自http://blog.csdn.net/ohmygirl/article/details/17846199,纯属读书笔记,加深记忆 1、抓包工具有很多,为什么要使用Fiddler呢?原因如
郑小超.
2018/01/26
3.5K0
Fiddler 抓包工具总结(APP接口分析)
Fiddler是一个蛮好用的抓包工具,可以将网络传输发送与接受的数据包进行截获、重发、编辑、转存等操作。也可以用来检测网络安全。反正好处多多,举之不尽呀!当年学习的时候也蛮费劲,一些蛮实用隐藏的小功能用了之后就忘记了,每次去网站上找也很麻烦,所以搜集各大网络的资料,总结了一些常用的功能。
ZhangXianSheng
2019/05/28
4.6K0
抓包工具:Fiddler一条龙使用指南
Fiddler是一个蛮好用的抓包工具,可以将网络传输发送与接受的数据包进行截获、重发、编辑、转存等操作。也可以用来检测网络安全。反正好处多多,举之不尽呀!
网络安全自修室
2022/12/06
2.1K0
抓包工具:Fiddler一条龙使用指南
Session、Cookie、Token三者关系理清了吊打面试官
HTTP 协议是一种无状态协议,即每次服务端接收到客户端的请求时,都是一个全新的请求,服务器并不知道客户端的历史请求记录;Session 和 Cookie 的主要目的就是为了弥补 HTTP 的无状态特性。
淘课之家
2020/04/09
2.1K0
Session、Cookie、Token三者关系理清了吊打面试官
如何用 Python 构建一个简单的网页爬虫
您有没有想过程序员如何构建用于从网站中提取数据的网络抓取工具?如果你有,那么这篇文章就是专门为你写的。我们生活在一个数据驱动的世界已经不是什么新闻了,企业需要的大部分数据都只能找到。通过使用称为网络抓取工具的自动化机器人,您可以高速从网站中提取所需的数据。谷歌、雅虎、Semrush、Ahref 和许多其他数据驱动的网站都是如此。
用户8847084
2021/07/21
3.5K0
如何用 Python 构建一个简单的网页爬虫
Python3网络爬虫(十三):王者荣耀那些事!(Fiddler之手机APP爬取)
原文链接及原作者:Python3网络爬虫(十三):王者荣耀那些事!(Fiddler之手机APP爬取) | Jack Cui
圆方圆PYTHON学院
2018/12/28
1.4K0
Python3网络爬虫(十三):王者荣耀那些事!(Fiddler之手机APP爬取)
B站高清视频爬取:Python爬虫技术详解
B站的视频资源丰富多样,但其官方客户端和网页端并未提供直接的视频下载功能。这使得许多用户在需要离线观看或进行视频编辑时面临不便。此外,对于一些内容创作者来说,能够获取高清视频素材对于创作高质量的作品至关重要。因此,掌握如何使用Python爬虫技术爬取B站视频,不仅可以满足个人需求,还能为内容创作提供有力支持。
小白学大数据
2025/03/07
1430
Python爬取微信公众号文章和评论 (基于Fiddler抓包分析)
  感觉微信公众号算得是比较难爬的平台之一,不过一番折腾之后还是小有收获的。没有用Scrapy(估计爬太快也有反爬限制),但后面会开始整理写一些实战出来。简单介绍下本次的开发环境:
happyJared
2018/09/20
4.1K0
Python爬取微信公众号文章和评论 (基于Fiddler抓包分析)
Python3网络爬虫快速入门实战解析
强烈建议:请在电脑的陪同下,阅读本文。本文以实战为主,阅读过程如稍有不适,还望多加练习。
圆方圆PYTHON学院
2018/12/23
2.1K1
Python3网络爬虫快速入门实战解析
远程办公经验为0,如何将日常工作平滑过度到线上?
我是一名创业者,我的公司(深圳市友浩达科技有限公司)在2018年8月8日开始运营,现在还属于微型公司。这个春节假期,我一直十分关注疫情动向,也非常关心其对公司带来的影响。
TVP官方团队
2020/02/20
5.8K0
CSS3与页面布局学习总结(四)——页面布局大全
张果
2018/01/04
8.2K0
CSS3与页面布局学习总结(四)——页面布局大全
Python Web 深度学习实用指南:第三部分
本节将说明 API 在软件开发中的一般用法,并说明如何使用不同的最新深度学习 API 来构建智能 Web 应用。 我们将涵盖自然语言处理(NLP)和计算机视觉等领域。
ApacheCN_飞龙
2023/04/24
15.1K0
03 . 前端之JavaScipt
语法: splice(index,howmany,item1,.....,itemX)
iginkgo18
2020/09/27
1.5K0
03 . 前端之JavaScipt
HTML5和CSS3 WEB技术开发
HTML:超文本标记语言(Hyper Text Markup Language),标准通用标记语言下的一个应用。 HTML 不是一种编程语言(C、Java、python、R等),而是一种标记语言 (markup language),是网页制作所必备的。“超文本**”**就是指页面内可以包含图片、链接,甚至音乐、程序等非文字元素。 目前版本是第5代,简称为HTML5,该 技术结合了 HTML4.01 的相关标准并革新 。
用户9184480
2024/12/13
1210
HTML5和CSS3 WEB技术开发
TensorFlow Lite,ML Kit 和 Flutter 移动深度学习:6~11
认证是任何应用中最突出的功能之一,无论它是本机移动软件还是网站,并且自从保护数据的需求以及与机密有关的隐私需求开始以来,认证一直是一个活跃的领域。 在互联网上共享的数据。 在本章中,我们将从基于 Firebase 的简单登录到应用开始,然后逐步改进以包括基于人工智能(AI)的认证置信度指标和 Google 的 ReCaptcha。 所有这些认证方法均以深度学习为核心,并提供了一种在移动应用中实现安全性的最新方法。
ApacheCN_飞龙
2023/04/27
23.3K0
TensorFlow Lite,ML Kit 和 Flutter 移动深度学习:6~11
相关推荐
图解爬虫,用几个最简单的例子带你入门Python爬虫
更多 >
领券
社区富文本编辑器全新改版!诚邀体验~
全新交互,全新视觉,新增快捷键、悬浮工具栏、高亮块等功能并同时优化现有功能,全面提升创作效率和体验
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
查看详情【社区公告】 技术创作特训营有奖征文