腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
使用
Selenium
和
Multiprocessing
的
Python
web
抓取
器
、
、
、
我有以下function.It,它接受一个链接作为参数,并在最后给出我需要
的
数据(base_list)我
使用
多线程
的
附加代码如下 records = p.map(extract_BS,urls) p.terminateReason: 'RecursionError(
浏览 0
提问于2018-02-18
得票数 0
1
回答
用Laravel
和
Selenium
进行
Web
抓取
、
、
、
我目前正在
使用
Python
进行
web
抓取
。我
使用
了
Selenium
和
Beautifulsoup库来
抓取
。我最近知道
Selenium
适用于php/Laravel。我
的
问题是,我可以
使用
Laravel +
Selenium
web
驱动程序
抓取
web
吗?如果是,你能给我提供一些链接或存储库,以便我学习吗?我被迫在我
的
浏览 19
提问于2019-11-19
得票数 0
1
回答
抓取
问题:“检查元素”与“查看页面源”不同
、
、
、
、
当我单击所需
的
选项卡,在显示其内容后,首先会出现两个问题。1-网页地址不改变,对所有标签都是相同
的
。2-当我看到带有浏览
器
(firefox
和
chrome)
的
“查看页面源”
的
页面源时,所有选项卡
的
页面源看起来也是相同
的
,而当我对其中一个选项卡
使用
“检查Elemnt”时,我看到我
的
目标内容以html形式显示
的
代码问题是,我无法通过
python
访问所需选项卡
的
内容,这是
浏览 2
提问于2020-02-06
得票数 4
回答已采纳
2
回答
保存
Python
中url中
的
“另存为”重定向
、
、
我想要做
的
.我试过
的
."Urllib请求“、"Wget”
和
“request”库都为我提供了一个1KB文件,在文本编辑
器
中该文件会读到“无效请求”。这可能是有意义
的
,因为我输入
的
网站网址在默认情况下是空白
的
,而且我认为它不会像我
使用
“请求”库
的
"allow_redirects=True“那样将URL重定向
浏览 0
提问于2020-05-06
得票数 1
回答已采纳
1
回答
使用
Python
对页面
和
浏览
器
扩展数据进行with
抓取
、
我正在尝试获取网页
的
文本数据,就像它在我
的
浏览
器
上
的
样子一样。我
的
问题是,我还
使用
了一个网页
的
扩展,它
的
给定数据(由于它而显示
的
文本)也要被收集。我知道urllib,但它只收集正常
的
网页数据,而不是扩展生成
的
数据。那么,如何收集这些数据有什么帮助吗?另外,我想问
的
是,这是否可能?
浏览 12
提问于2020-08-15
得票数 0
2
回答
在amazon lambda
python
中运行
selenium
webdriver
、
、
、
、
我想在amazon lambda中运行BeautifulSoup
和
selenium
webdriver,我
的
运行环境是
python
3.6。可以运行吗?如果是这样的话是怎么做
的
。我
的
意图是
使用
漂亮
的
Soup4
和
selenium
从网页中删除数据(因为它必须删除由javascript动态生成
的
数据)。
浏览 4
提问于2018-04-21
得票数 14
回答已采纳
1
回答
如何
使用
python
从网站上检索值
、
我想知道有没有什么方法可以制作一个
python
脚本来从网站上获取一个所说
的
值,在我
的
例子中是一个离线数字,它在一个每5分钟刷新一次
的
网站上。我想要设置它,如果该值增加,它将发送给我一封电子邮件。我之所以想这么做,是因为我在一家拥有超过15,000名矿工
的
比特币开采设施工作,我们必须不断地监控他们。但是,在做诸如清洁之类
的
日常工作时,携带笔记本电脑是非常令人恼火
和
恼人
的
。我对
python
知之甚少,所以如果有人能给我指出正确
的</
浏览 3
提问于2020-10-01
得票数 0
3
回答
Python
硒多处理
、
、
、
、
我用
python
和
selenium
结合编写了一个脚本,从它
的
登陆页面中
抓取
不同帖子
的
链接,并通过跟踪指向其内部页面的url最终获得每个帖子
的
标题。虽然我在这里分析
的
内容是静态
的
,但我
使用
selenium
来查看它在多处理中
的
工作方式。 然而,我
的
意图是
使用
多处理进行
抓取
。到目前为止,我知道
selenium
不支持多
浏览 2
提问于2018-11-26
得票数 31
回答已采纳
1
回答
Python
-单击链接时
抓取
数据不会更改URL
、
、
我想从这里
抓取
数据:在该页面中有一个标题为“市场流动”
的
部分,下面有3列:“最活跃的人”,"%获得者“,"%失败者”,每一个都可以点击。该部分列出了10只股票。同样在第10只股票
的
末尾,有一个可点击
的
矩形“再加载10个”。 我想要做
的
是点击"%获得者“,同时点击”加载10多个“,查看排名前20
的
获得者列表,并在
Python
中
抓取
数据。
浏览 1
提问于2015-09-11
得票数 1
2
回答
可以通过编程方式调用
的
Python
屏幕捕获脚本?
、
我想打开一个页面,
抓取
屏幕,并
使用
PIL获取其平均颜色。我想打开大约100个页面,所以我认为
使用
Python
的
屏幕截图脚本会很有用。我和我决定
使用
:A simple screen grabbing utility @date 2009-03-17 from PIL
浏览 0
提问于2011-09-26
得票数 1
回答已采纳
1
回答
使用
Selenium
和
Java从网站中
抓取
数据
、
我试图刮数据从板球网站,并已经写了一个方法,接受一个球员
的
名字,并显示他们
的
相应数据。 如果您看到此方法,则取一个播放机名称并显示其所有数据。我
的
要求是显示所有球员
的
完整记分卡,而不是只显示一个球员
的
数据。
浏览 0
提问于2020-03-04
得票数 0
2
回答
在
使用
Python
进行
web
抓取
时,如何
使用
相同
的
连接?
、
、
很可能会让我
的
IP被禁止。有人建议我
使用
WebKit (如Ghost.py )来
抓取
数据,但在浏览
器
中模拟打开
的
选项卡使连接保持打开状态。我对WebKit知之甚少,是否有人能为我确认Ghost.py能够重用相同
的
连接,或者是否有其他更好
的
建议。
浏览 1
提问于2015-08-12
得票数 1
回答已采纳
1
回答
如何
使用
requests
和
pyqt5获取
web
数据?
、
、
我想输入如图所示
的
信息。 ? start_date': '2018-06-01', 'end_date':'2019-01-23'} response = requests.post(url, data = payload) 但是,我不能得到正确
的
结果正确
的
方法应该是什么? 如何
使用
pyqt5完成此操作
浏览 14
提问于2019-01-23
得票数 4
3
回答
从Morningstar网站
抓取
财务数据
、
、
我正在尝试从下面的morningstar网站上获取数据: import requests, os, bs4, string
浏览 3
提问于2016-02-27
得票数 3
2
回答
安装用于OpenShift
的
火狐DIY墨盒
、
我需要废弃
的
网站与
python
(硒),所以我需要安装火狐或铬或…。非常感谢。
浏览 1
提问于2014-09-21
得票数 1
3
回答
scrapy能像
Selenium
一样控制
和
显示浏览
器
吗?
、
、
当我
使用
Selenium
时,我可以看到浏览
器
GUI,是否可以
使用
scrapy或严格基于scrapy命令行?
浏览 4
提问于2015-11-03
得票数 1
回答已采纳
1
回答
使用
selenium
的
Python
web
抓取
器
、
、
、
我正在做一个网络
抓取
器
,你知道所有的东西都是安全
的
,所以我正在做这个
selenium
驱动程序,它不能工作 from
selenium
import webdriver import pandas as
浏览 12
提问于2020-10-08
得票数 0
回答已采纳
1
回答
如何知道你是否被屏蔽从一个网站
的
网页刮刮?
、
我在一个网站上
使用
了这个漂亮
的
汤代码:谢谢
浏览 6
提问于2019-11-01
得票数 0
回答已采纳
1
回答
使用
python
发布数据
、
我想用
python
发布一些数据到一个网站上。payload = { 'user-point-form-1': random_data #the data I want to post而我想要发布
的
html我应该如何更改请求,以便将数据发布到"XXXXXX“所在
的
位置?
浏览 2
提问于2017-09-04
得票数 0
2
回答
是否可以
使用
Selenium
WebDriver来驱动PhantomJS?
、
、
、
我正在浏览
Selenium
WebDriver
的
文档,例如,它可以驱动Chrome。我在想,“驾驶”PhantomJS不是更有效率吗? 有没有一种方法可以在PhantomJS中
使用
Selenium
?我
的
预期用途是
web
抓取
:我
抓取
的
网站加载了AJAX
和
许多可爱
的
JavaScript,我认为这个设置可以很好地替代我目前正在
使用
的
Scrapy
Python</
浏览 4
提问于2012-06-27
得票数 35
回答已采纳
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
腾讯会议
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券