首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

(数据科学学习手札50)基于Python的网络数据采集-selenium篇(上)

接着几个月之前的(数据科学学习手札31)基于Python的网络数据采集(初级篇),在那篇文章中,我们介绍了关于网络爬虫的基础知识(基本的请求库,基本的解析库,CSS,正则表达式等),在那篇文章中我们只介绍了如何利用urllib、requests这样的请求库来将我们的程序模拟成一个请求网络服务的一端,来直接取得设置好的url地址中朴素的网页内容,再利用BeautifulSoup或pyspider这样的解析库来对获取的网页内容进行解析,在初级篇中我们也只了解到如何爬取静态网页,那是网络爬虫中最简单的部分,事实上,现在但凡有价值的网站都或多或少存在着自己的一套反爬机制,例如利用JS脚本来控制网页中部分内容的请求和显示,使得最原始的直接修改静态目标页面url地址来更改页面的方式失效,这一部分,我在(数据科学学习手札47)基于Python的网络数据采集实战(2)中爬取马蜂窝景点页面下蜂蜂点评区域用户评论内容的时候,也详细介绍过,但之前我在所有爬虫相关的文章中介绍的内容,都离不开这样的一个过程:

05

初学web自动化测试--笔记1

web driver 是可以直接操作浏览器的driver, 根据不同的浏览器,需要不同的driver,下面列出了一些可用的web driver的镜像地址: chrom浏览器的web driver(chromedriver.exe):http://npm.taobao.org/mirrors/chromedriver/ firefox(火狐浏览器)的web driver (geckodriver.exe):https://github.com/mozilla/geckodriver/releases IE(IEDriverServer_Win32_3.9.0.zip 是32位的3.9.0 driver): http://selenium-release.storage.googleapis.com/index.html web自动化测试中,可以通过webdriver的API,向浏览器发送相应的request, 然后实现自动测试,比如自动点击,自动填写,自动滚动,自动切换窗口/标签页等。 但是如上所述,不同的浏览器有不同的web driver. 那么自然也就有不同的API提供,所以对于同一个功能,那么就需要基于不同的driver,学习不同的API,这操作起来,岂不是头疼? 在python中,我们只需要按照如下导入webdriver, 就可以轻松用一种方式来应付各种不同的web driver了:

04
领券