首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

爬虫遇到js动态渲染问题

爬虫遇到js动态渲染问题 时间:2020年6月3日10:28:48 作者:钟健 概要:关于scrapy爬虫应对网页JavaScript动态渲染问题 关键字:scrapy crapy-splash...,因为通过js渲染出来的动态网页的内容与网页文件内容是不一样的。...二、scrapy解决动态网页渲染问题的策略 目前scrapy解决动态网页渲染问题的主要有以下三种的解决方法: seleium+chrome 就是传统的结合浏览器进行渲染,优点就在于,浏览器能访问什么,他就能够获取到什么...//a/h4/text()').get() print(title) 这是通过渲染以后的网页数据 这里我们直接获取职位的标题 这就表明scrapy爬虫应对动态网页渲染问题已经解决...其实大部分的动态网页的渲染,都存在与数据端进行请求交互数据,当然也存在一些,直接把数据存在js中间,然后再通过js渲染到网页上,这时候scrapy-splash就可以发挥价值了,尤其是在一些验证码,图形验证方面更加突出

1.9K20

Splash抓取javaScript动态渲染页面

上面有个输入框,默认是http://google.com,我们可以换成想要渲染的网页如:https://www.baidu.com然后点击Render me按钮开始渲染 ?...div.quote') [] >>> 代码分析:这里我们爬取了该网页,但我们通过css选择器爬取页面每一条名人名言具体内容时发现没有返回值 我们来看看页面:这是由于每一条名人名言是通过客户端运行一个Js脚本动态生成的...问题分析 scrapy爬虫框架没有提供页面js渲染服务,所以我们获取不到信息,所以我们需要一个渲染引擎来为我们提供渲染服务---这就是Splash渲染引擎(大侠出场了) 1、Splash渲染引擎简介:...Splash是为Scrapy爬虫框架提供渲染javascript代码的引擎,它有如下功能:(摘自维基百科) (1)为用户返回渲染好的html页面 (2)并发渲染多个页面 (3)关闭图片加载,加速渲染 (...相当于jquery里面的text()。这里有点绕,可能有点不太好理解。 ? 它相当于jquery代码 $('div.quote span.text').text() 使用console,测试一下 ?

3K30
领券