随着大数据时代的发展,网络爬虫的用户也越来越多,随之HTTP代理成了网络爬虫的不可缺少的一部分。使用过http代理的都清楚,,使用代理ip的基础流程是这样的:爬虫用户使用程序发送请求到代理服务器,代理服务器将请求转发到目标网站,目标网站处理完后返回结果,代理服务器收到反馈到结果后将信息转发到客户端,这样就完成了一次代理请求。整个过程中,代理服务器就充当了一个转发请求和结果的作用。HTTP代理分为隧道代理和外网代理IP。有通过API提取的也有动态转发的爬虫代理。那什么是隧道IP呢?
隧道IP:反向IP(隧道IP)客户计算机通过专线网络链接固定代理服务器(固定IP),固定服务器再通过随机端口将数据通过其他线路服务器向目标网站(服务器)转发。因此目标网站(服务器)只能看到随机线路的IP,不可能看到固定代理服务器IP,实际效果与公网IP(外网IP)一样,并且网络更加稳定。
亿牛云隧道转发爬虫代理:“亿牛云爬虫代理IP”通过固定云代理服务地址,建立专线网络链接,代理平台自动实现毫秒级代理IP切换,保证了网络稳定性和速度,避免爬虫客户在代理IP策略优化上投入精力
正确使用隧道代理IP:
<?php
// 要访问的目标页面
$url = "http://httpbin.org/ip";
$urls = "https://httpbin.org/ip";
// 代理服务器(产品官网 www.16yun.cn)
define("PROXY_SERVER", "tcp://t.16yun.cn:31111");
// 代理身份信息
define("PROXY_USER", "username");
define("PROXY_PASS", "password");
$proxyAuth = base64_encode(PROXY_USER . ":" . PROXY_PASS);
// 设置 Proxy tunnel
$tunnel = rand(1,10000);
$headers = implode("\r\n", [
"Proxy-Authorization: Basic {$proxyAuth}",
"Proxy-Tunnel: ${tunnel}",
]);
$sniServer = parse_url($urls, PHP_URL_HOST);
$options = [
"http" => [
"proxy" => PROXY_SERVER,
"header" => $headers,
"method" => "GET",
'request_fulluri' => true,
],
'ssl' => array(
'SNI_enabled' => true, // Disable SNI for https over http proxies
'SNI_server_name' => $sniServer
)
];
print($url);
$context = stream_context_create($options);
$result = file_get_contents($url, false, $context);
var_dump($result);
// 访问 HTTPS 页面
print($urls);
$context = stream_context_create($options);
$result = file_get_contents($urls, false, $context);
var_dump($result);
?>
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。