腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
3
回答
对于
站点
刮取
库
来说,好
的
Perl
或
Python
起点
是
什么
?
python
、
perl
、
screen-scraping
可能重复: 这不是我
的
工作领域,所以请原谅我普遍缺乏知识。我正在寻找用于
站点
抓取
的
Python
或
Perl
库
(从不同页面上
的
站点
/表获取一些产品信息/转换成一种更友好
的
格式-- Excel,这两种语言都有令人满意
的
选择),并提供了良好
的
文档。有人能就这个问题提出建议
或
提出一个
起点
吗?谷歌提供了几个有趣
浏览 3
提问于2012-08-01
得票数 2
1
回答
使用php curl
抓取
aspx页面
php
、
asp.net
、
curl
、
screen-scraping
我正在尝试使用php curl代码
抓取
aspx页面,其中包含页面方面的数据。最初,页面使用get方法加载,但当我们选择page no.从下拉列表中,它使用post方法提交页面。我已经创建了一个虚拟代码来获取第5页
的
记录,但它总是返回第一页
的
结果。如何获取特定页码
的
记录? 问候
浏览 1
提问于2012-04-23
得票数 1
1
回答
如何获取多个网站
的
缩略图截图?
python
、
perl
、
mechanize
我有一个2500个网站
的
名单,需要
抓取
他们
的
缩略图截图。我该怎么做? 我可以尝试使用
Perl
或
Python
来解析
站点
,机械化将是一件好事。但是我对
Perl
没有太多
的
经验。
浏览 0
提问于2011-12-05
得票数 1
3
回答
从许多不同网站上
抓取
数据
的
最好方法
programming-languages
、
html-parsing
、
screen-scraping
我希望从许多不同
的
地方政府网站上获取公共数据。此数据不是以任何标准格式(XML、RSS等)提供
的
并且必须从HTML中
抓取
。我需要
抓取
这些数据,并将其存储在数据
库
中以备将来参考。理想情况下,
抓取
例程将在循环
的
基础上运行,并且只将新记录存储在数据
库
中。对于我来说,应该有一种方法可以在这些网站上轻松地检测到旧记录中
的
新记录。 我最大
的
问题
是
:实现这一目标的最佳方法是
什么
?我听说过一些YQ
浏览 0
提问于2012-09-04
得票数 0
3
回答
Perl
vs PHP to web
抓取
php
、
python
、
perl
、
performance
、
web-scraping
假设我们有一个需要web
抓取
的
项目。(解析字符串(< 40)和
抓取
网页(获取元数据等等)我知道
perl
有非常好
的
适合这项工作
的
cpan模块,所以我可以采用这种方式,不用太麻烦自己。但我对速度和内存相关
的
东西一无所知。提前谢谢。
浏览 0
提问于2011-04-04
得票数 4
回答已采纳
2
回答
我需要学习
什么
编程语言来构建能够帮助我监控我家里
的
电力(
或
水)使用情况
的
软件?
linux
我需要学习
什么
编程语言来构建能够帮助我监控我家里
的
电力(
或
水)使用情况
的
软件?不仅如此,我还希望能够远程连接到我
的
警报器,看看它是否正常工作,能够检查我
的
烟雾探测器,或者接入我
的
监控摄像头
的
实况。我知道linux
是
必须
的
,但是有
什么
编程语言可以与我从传感器获得
的
数据进行交互呢?
浏览 3
提问于2014-11-06
得票数 0
回答已采纳
9
回答
我可以用C开始编程吗?
c
Some开始编程,人们告诉我从
perl
或
python
开始。那么,我可以不学习
python
或
perl
就开始学习它吗?如果
是
这样的话,steve kochan
的
“?..And in c”一书是不是一个很好
的
起点
呢?.
浏览 7
提问于2011-02-22
得票数 0
7
回答
是否有用于
Perl
到
Python
转换
的
编程工具?
python
、
perl
、
parsing
、
compilation
在我
的
新工作中,使用
Python
的人比使用
Perl
的人多,而且我有一个非常有用
的
API,这是我自己编写
的
,我想用
Python
提供给我
的
同事。我认为将
Perl
代码编译成
Python
代码
的
编译器对于这样
的
任务是非常有用
的
。在尝试编写能够解析
Perl
(或者至少
是
我在定义API时使用
的
Perl
的
子集
浏览 0
提问于2009-06-30
得票数 24
回答已采纳
1
回答
是否更容易
抓取
AMP版本
的
网页?
web-scraping
、
beautifulsoup
、
web-crawler
、
amp-html
、
web-mining
我正在开发一个聚合报纸文章
的
网络刮板。我知道AMP协议要求Javascript
的
精简版本,我也知道Javascript (在一定程度上)使网站管理员能够检测/防止
抓取
。因此,从逻辑上讲,我认为
抓取
AMP网站会更容易一些。然而,另一方面,如果这是真的,我假设StackOverflow会在它上面,但我还没有找到一个单独
的
线程来重申我
的
推断。我说
的
对吗?还是我忽略了
什么
?
浏览 11
提问于2019-04-08
得票数 0
4
回答
屏幕
抓取
窗体结果
python
、
forms
、
screen-scraping
我最近被一个客户要求为他们
的
保险业务建立一个网站。作为这项工作
的
一部分,他们想要对他们
的
一个供应商
的
报价
站点
进行一些屏幕
抓取
。他们询问他们
的
API是否可以做到这一点,并被告知没有,但如果他们可以从他们
的
引擎中获得数据,他们可以随心所欲地使用它。 我
的
问题
是
:是否可以对表单提交到另一个
站点
的
响应执行屏幕
抓取
?如果
是
这样,我应该注意
的</em
浏览 1
提问于2009-08-03
得票数 3
回答已采纳
1
回答
div其他
站点
-页面将其添加到我
站点
中
的
div标记
或
iframe标记内
jquery
、
parsing
、
html
我想从一个外部网站(在一个div内)获得html代码/数据,并将它们添加到我
的
网站
的
div标签内…我想我必须得到html页面,解析页面,获得div内容,并添加到我
的
site...is,它允许从其他网站,而不是相同
的
服务器?
浏览 0
提问于2012-02-20
得票数 0
1
回答
如何验证网页上存在超链接?
c#
、
.net
、
regex
、
parsing
、
verification
我需要验证一个特定
的
超链接存在于给定
的
网页上。我知道如何下载源代码HTML。我需要帮助
的
是
找出一个“目标”url是否作为一个超链接存在于“源”网页中。下面
是
一个小型控制台程序来演示这个问题:{注意最后一行
的
注释。我可以看到目标URL是否存在于源URL
的
HTML中,但
浏览 5
提问于2010-09-09
得票数 1
回答已采纳
1
回答
如何知道你是否被屏蔽从一个网站
的
网页刮刮?
python
、
web-scraping
我在一个网站上使用了这个漂亮
的
汤代码:谢谢
浏览 6
提问于2019-11-01
得票数 0
回答已采纳
1
回答
Python
Web脚本
python
、
regex
、
web-crawler
我正在谈论
的
脚本,我们爬行一个网站,并提取我们需要
的
数据。我
的
目标
是
:基本上我必须在12月份参加工作面试。有一个网站(),其中包含了之前面试中
的
大量问题(比如 & )。跟踪我做了
什么
和没有做
什么
是
相当麻烦
的
。因此,我想从每个页面中提取问题,并将其放入带有标题
的
pdf中。我如何使用curl,regex和Scrapy来做这件事呢?我
是
C/C++/Java
的
中
浏览 1
提问于2013-09-12
得票数 0
2
回答
python
擦除/获取数据aspx查询
python
、
asp.net
、
web-scraping
我正在尝试使用
python
从这个
站点
抓取
数据谢谢。
浏览 20
提问于2018-09-01
得票数 0
回答已采纳
2
回答
哪种语言最适合这个编辑和操作聚合器项目?
html
、
aggregators
我正在寻找一个聚合器为一堆英语报纸
的
社论和评论页面,我想要关注。我们
的
目标
是
生成一个HTML,它只是我想在国际上关注
的
十几种报纸
的
社论文章
的
集合,这样我就可以在早上打印出来。由于这是一个非常狭窄
的
要求,我找不到任何可用
的
东西,所以我正在考虑自己写一个。 现在,在我以前
的
生活中,我曾经当了大约8年
的
程序员(现在在我
的
MBA毕业后,我已经转向了华尔街
的
“黑暗面”)。我现在对编程
浏览 1
提问于2009-08-11
得票数 2
回答已采纳
2
回答
使用
python
从网页中提取Disqus评论,声誉和点赞?
python
、
comments
、
disqus
我正在试图找出一种方法来提取评论,作者
的
声誉和喜欢使用
python
。有人能帮上忙吗?
浏览 1
提问于2013-11-21
得票数 2
4
回答
使用PHP
或
Python
的
PHP
抓取
技术
php
、
python
、
screen-scraping
我需要刮大约100个网站,在他们提供
的
内容非常相似。第二项质询。我
的
主要语言
是
PHP,但在Stackoverflow上搜索此处后,我发现
Python
中
的
"Beautiful Soup“<e
浏览 2
提问于2011-01-03
得票数 3
5
回答
希望
抓取
一个网站
web
、
screen-scraping
我要找一个像yelp.com这样
的
网站,以获得他们那里
的
所有酒吧
的
清单。有没有
什么
工具
或
脚本可以帮助我做到这一点。
浏览 4
提问于2009-08-28
得票数 3
回答已采纳
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
对象存储
云点播
实时音视频
活动推荐
运营活动
广告
关闭
领券