前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >快速搭建Hadoop及HBase分布式环境

快速搭建Hadoop及HBase分布式环境

作者头像
叁金
发布2018-09-04 14:30:34
3930
发布2018-09-04 14:30:34
举报
文章被收录于专栏:叁金大数据叁金大数据

      好久不更新博客了。。。

之前的博文都是通过urllib2进行http访问,接下来我要说一个利器啊!requests模块,无法用语言对他进行赞扬了,需要的,有兴趣的,可以去了解下,移步官方中文文档:

Requests: 让 HTTP 服务人类

简直是不要太刁。。。

      这篇博文呢,主要是将之前博文中用urllib2写的HttpClient类换成request。代码如下:

代码语言:javascript
复制
# coding=utf-8
from __future__ import unicode_literals
import requests
from io import StringIO


class HttpClient:
    def __init__(self):
        pass
    __headers = {
        'User-Agent': 'Mozilla/5.0 (X11; Ubuntu; Linux x86_64; rv:45.0) Gecko/20100101 Firefox/45.0',
        'Accept':'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
        # 'Host':'www.xiami.com'
        }
    __proxies = {
          # "http": "http://10.10.1.10:3128",
          # "https": "http://10.10.1.10:1080",
        }

    def get(self, url, params=None, retries=3):
        try:
            req = requests.get(url, headers=self.__headers, timeout=30, params=params,
                               proxies=self.__proxies)
            req.raise_for_status()
            return req.text
        except Exception,e:
            print e
            if retries > 0:
                return self.get(url, params, retries - 1)
            else:
                print "Get Failed", url
                return ''

    def post(self, url, data=None, retires=3):
        try:
            req = requests.post(url, headers=self.__headers, timeout=30, data=data,
                                proxies=self.__proxies)
            req.raise_for_status()
            return req.text
        except Exception,e:
            print e
            if retires > 0:
                return self.post(url,data,retires - 1)
            else:
                print "Post Failed", url
                return ''

    def download(self, url, file_name, params=None, cookies=None):
        try:
            req = requests.get(url, headers=self.__headers, params=params,
                               proxies=self.__proxies)
            output = open(file_name, 'wb')
            output.write(req.content)
            output.close()
        except Exception,e:
            print 'error',e

    def get_cookies(self, url, key, params=None):
        try:
            req = requests.get(url, headers=self.__headers, timeout=30, params=params,
                               proxies=self.__proxies)
            req.raise_for_status()
            return req.cookies.get(key,'')
        except Exception,e:
            return ''

    def get_headers(self, url, key, params=None):
        try:
            req = requests.get(url, headers=self.__headers, timeout=30, params=params,
                               proxies=self.__proxies)
            req.raise_for_status()
            return req.headers.get(key)
        except Exception,e:
            return ''

  记录一下,后面会时常更新博文的。

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2016-08-01 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • Requests: 让 HTTP 服务人类
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档