腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(5145)
视频
沙龙
3
回答
为什么部署腾讯云
CDN
加速
以后,百度
蜘蛛
就
抓取
不了了?
内容分发网络 CDN
[图片][图片]
浏览 1895
提问于2018-02-27
1
回答
CDN
会
影响
搜索引擎收录站点么?
搜索引擎
、
全站加速网络
、
cdn 边缘计算
、
cdn
、
腾云先锋
浏览 689
提问于2021-09-28
4
回答
开启
CDN
加速
以后…百度
蜘蛛
抓取
403,该如何解决?
内容分发网络 CDN
如题,源站跟百度都说不是他们
的
原因,我设置
的
也没有问题,还专门咨询过腾讯
的
客服,他们教我设置
的
,现在就是
抓取
403 ,用户可以正常访问,用其他
的
模拟
蜘蛛
抓取
都没有问题…所以我该怎么办呢?
浏览 1919
提问于2018-03-01
1
回答
网站使用
cdn
加速
,各大搜索引擎收录网站也会消耗
cdn
资源,怎样避免?
搜索引擎
、
cdn 边缘计算
、
cdn
网站使用
cdn
加速
,各大搜索引擎收录网站也会消耗
cdn
资源,怎样避免?
浏览 567
提问于2020-05-12
1
回答
Selenium Webdirver
python
、
selenium
当我使用Selenium和scrapy来
抓取
由dymanic .But开发
的
信息时,我使用webdriver.PhantomJS in在cmd窗口中找到了这样
的
调试信息。selenium.webdriver.remote.remote_connection]调试: POST 他们会有很多人,他们减慢了我
的
spider.How,我可以把它关掉吗?我只想让
蜘蛛
加速
。
浏览 3
提问于2016-02-16
得票数 1
2
回答
用scrapy进行CPU密集型解析
python
、
web-scraping
、
screen-scraping
、
scrapy
CONCURRENT_ITEMS节将其定义为: 假设我
的
解析涉及很多lxml查询和xpath‘’ing。应该在
蜘蛛
的
解析方法本身中执行这些操作,还是应该发送包含整个响应
的
项,并让自定义管道类通过解析响应体来填充项
的
字段?
浏览 4
提问于2014-02-13
得票数 2
回答已采纳
1
回答
我在
抓取
的
项目中找不到字符串
python
、
scrapy
我有一个非常简单
的
爬虫,但是当我试图搜索我正在
抓取
的
项目的内容时,它没有被找到 被
抓取
的
url:https://www.filmlinc.org/nyff2019/films/the-irishman/
蜘蛛
import scrapy class MetrographSpider(scrapy.Spiderif "Standb
浏览 12
提问于2019-09-14
得票数 0
回答已采纳
4
回答
COS存储对象使用
CDN
加速
是否还会产生外网下行流量?
费用中心
、
内容分发网络 CDN
、
对象存储
、
cdn
COS存储对象使用
CDN
加速
是否还会产生COS外网下行流量?我一直对这个有疑问,如果我买了
CDN
流量包,并且使用
CDN
对
存储对象资源进行
加速
,我直接访问
的
CDN
加速
地址,这时候是否还会产生COS外网下行流量。 image.png
浏览 1648
提问于2021-09-11
3
回答
海外站,香港使用了境外
CDN
,非全球(域名未备案),内地无法访问
cdn
?
cdn
海外站,香港使用了境外
CDN
,非全球(域名未备案),经常内地无法访问
cdn
,无法为内地用户提供服务,这个是什么问题?不是直接回源吗?
浏览 973
提问于2021-11-16
11
回答
没有开通境外
加速
的
情况下,境外访问境内
加速
域名,可以正常访问吗?
对象存储
、
cdn
CDN
开通了中国境内
加速
域名www.xxx.com1. 是否可以正常访问? 2.实际处理流程是怎样
的
你?
浏览 4405
提问于2020-04-15
1
回答
如何用刮擦爬行多个域
scrapy
、
scrapyd
、
scrapy-spider
我有一个项目,在其中我必须爬很多不同
的
网站。所有这些网站爬行都可以使用相同
的
蜘蛛
,因为我不需要从它
的
正文页面中提取项目。我认为
的
方法是将要在
蜘蛛
文件中爬行
的
域参数化,并调用scrapy爬行命令,传递域并启动urls作为参数,这样我就可以避免为每个站点生成一个
蜘蛛
(站点列表将随着时间
的
推移而增加)。这样做
的
目的是将其部署到运行scrapyd
的
服务器上,因此我有几个问题要问: 这是我能采取
的
浏览 2
提问于2014-07-01
得票数 4
回答已采纳
1
回答
在静态站点上使用URL中
的
参数
javascript
、
html
基本上,我想通过
CDN
主持一个网站。我
的
网站目前包含一些带有参数
的
URL,例如。 有任何方法来命名文件(包括参数),以便它响应上面的URL吗?编辑:
蜘蛛
需要能够正确地
抓取
内容,这样JS就不会在这里发挥作用。
浏览 4
提问于2016-10-17
得票数 2
1
回答
如何设置腾讯云
CDN
才能达到最好效果?
内容分发网络 CDN
我
的
网站一直使用腾讯云和
CDN
加速
,由于是Discuz!动态程序,故而不知道如何设置才能:即不
影响
功能,速度还能最快。求大神告知!
浏览 755
提问于2015-09-26
2
回答
对象存储可以绑定自己
的
域名吗?
对象存储
、
官方产品
我们公司业务现在需要将对象存储做迁移,请问还可以绑定之前
的
域名吗? [附加信息]
浏览 749
提问于2021-05-18
回答已采纳
1
回答
腾讯云【
CDN
加速
的
边缘节点】使用
的
是SSD硬盘还是SATA硬盘?性能如何?
内容分发网络 CDN
、
全站加速网络
、
电商
、
存储
、
cdn
有国内外电商客户需求
对
其全球电商网站容器集群域名进行
CDN
加速
(千万级静态图片html、php静态页面等),需求边缘
加速
节点全部至少SSD固态硬盘,请问腾讯云
CDN
边缘
加速
节点使用
的
是什么存储?
浏览 703
提问于2021-02-17
1
回答
刮除-数据库选择
python
、
database
、
elasticsearch
、
scrapy
、
nosql
我目前正在建立一个刮刮项目,可以
抓取
任何网站从第一深度到最后。我不提取很多数据,但是我将所有页面的HTML (response.body)存储在数据库中。我目前正在使用Elasticsearch和bulk API来存储我
的
原始HTML。 我看了一下Cassandra,但是我没有找到相当于Elasticsearch散装
的
东西,它
影响
了我
的
蜘蛛
的
性能。我
对
性能感兴趣,并想知道Elasticsearch是否是一个好
的
选择,以及是否有一个更合
浏览 2
提问于2017-04-28
得票数 4
回答已采纳
1
回答
cdn
加速
?
缓存
、
cdn
域名:abc.cnall:刷新时间0s疑问:若是请求
cdn
,之后转发给源站,怎么绕过
cdn
直接访问源站?若是请求
cdn
,之后转发给源站,会造
浏览 672
提问于2019-08-21
2
回答
美汤和Scrapy一起使用能提高性能吗?
python
、
beautifulsoup
、
scrapy
我正在
抓取
抓取
所有的东西。我已经看到很多人都在使用漂亮
的
Soup进行解析。 我只是想知道在速度,效率或更多
的
slectrors等方面有什么优势,帮助我创建
蜘蛛
和爬虫或scrapy
对
我来说应该足够了。
浏览 0
提问于2012-11-23
得票数 0
回答已采纳
2
回答
请教几个有关腾讯
CDN
的
问题?
内容分发网络 CDN
、
对象存储
第一,这个腾讯云
cdn
和百度
的
云
加速
那种是一样
的
吗?和腾讯云
的
COS有什么区别,腾讯云
的
COS貌似和七牛云储存
的
加速
是一样
的
,需要把文件同步到云储存里面,然后再独立设置一个img或者
cdn
的
二级域名绑定,然后再将站内
的
静态资源链接替换掉。这个腾讯云
cdn
是不是和百度
的
云
加速
那样,只需要把www域名CNAME解析好就行,不需要单独
浏览 1341
提问于2017-06-28
1
回答
如何使用
CDN
加速
简单
的
视频站点与PHP动态加载视频文件,如Moodle?
php
、
cdn
、
streaming
、
video
、
moodle
我用Moodle创建了一个站点,
对
存储在服务器上
的
视频文件
的
连接速度不太满意。而且我知道
CDN
可以加快视频文件
的
加载速度。但我是个新手,
对
CDN
并不熟悉,我只是希望任何访问这些视频的人都能登录到我
的
源站点,但我听说
CDN
只能
加速
静态文件。视频文件
的
url将是https://example.com/my.php/110/mod_page/co
浏览 0
提问于2017-09-04
得票数 0
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
对象存储
云点播
实时音视频
活动推荐
运营活动
广告
关闭
领券