Python操作Hive的两种方法总结

py3study

发布于 2020-01-06 11:20:02

6.9K0

发布于 2020-01-06 11:20:02

文章被收录于专栏：python3

方法一：使用PyHive库

安装依赖包：其中sasl安装可能会报错，可以去https://www.lfd.uci.edu/~gohlke/pythonlibs/#sasl下载对应版本安装。

pip install sasl
pip install thrift
pip install thrift-sasl
pip install PyHive

Python脚本代码操作：

from pyhive import hive   # or import hive
conn = hive.Connection(host='****', port=****, username='****', database='****')
cursor.execute(''SELECT * FROM my_awesome_data LIMIT 10'')
for i in range(****):
    sql = "INSERT INTO **** VALUES ({},'username{}')".format(value, str(username))
    cursor.execute(sql)


# 下面是官网代码：
from pyhive import presto  # or import hive
cursor = presto.connect('localhost').cursor()
cursor.execute('SELECT * FROM my_awesome_data LIMIT 10')
print(cursor.fetchone())
print(cursor.fetchall())

方法二：使用 impyla库

impyla依赖包：

pip install six

pip install bit_array

pip install thriftpy

为了支持Hive还需要以下两个包：

pip install sasl
pip install thrift_sasl

可在Python PyPI中下载impyla及其依赖包的源码

Python脚本代码：

from impala.dbapi import connect 
conn = connect(host ='****'，port = ****）
cursor = conn.cursor()
cursor.execute('SELECT * FROM mytable LIMIT 100')
print cursor.description   # 打印结果集的schema 
results = cursor.fetchall()

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

原始发表：2019/09/22 ，如有侵权请联系 cloudcommunity@tencent.com 删除

hive