如何使用scrapy实现proxy over proxy (2层)?我假设这里是http/https代理。
例如,我的本地计算机-->proxy1 -->proxy2 -->我要抓取的站点。如何在scrapy中做到这一点?
我为什么要这样做?
这样做的目的是隐藏我的ip地址。你可以认为proxy1是非常可靠的,但是它被我想要抓取的站点屏蔽了。而且proxy2并不可靠,但是可以访问我想要抓取的站点。
我可以做我的本地机器-->proxy2 -->我想抓取的站点。但是因为proxy2不可靠,所以我可以将我的ip地址暴露给我想要抓取的站点。所以我想在proxy2之前再加一层来保护它。
发布于 2016-05-14 04:50:22
干什么用?For what?要隐藏您的ip地址,您可以使用高匿名代理。高匿名代理屏蔽了你的IP,用他们自己的IP代替。但是,您访问的服务器可能仍然能够检测到您的真实IP。这不太可能,但是添加代码来检测底层IP地址的服务器可能会检测到您的IP。
https://stackoverflow.com/questions/37218342
复制相似问题