前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >0555-6.1.0-使用Python并发访问认证和非认证集群

0555-6.1.0-使用Python并发访问认证和非认证集群

作者头像
Fayson
发布2019-11-27 18:39:00
5770
发布2019-11-27 18:39:00
举报
文章被收录于专栏:Hadoop实操Hadoop实操

1

文档编写目的

Fayson在前面的文章《0553-6.1.0-如何使用Java代码同时访问安全和非安全CDH集群》和《0554-6.1.0-同一java进程中同时访问认证和非认证集群的问题(续)》,本篇文档主要介绍如何使用Python并发访问认证的集群和非认证的集群。

  • 测试环境:CDH6.1.0

2

集群准备

1.非认证集群,在该集群中根目录下创建了一个NONEKRBCDH目录用以标识

该非认证集群已启用高可用,节点为:cdh235.fayson.com;cdh236.fayson.com

2.认证集群,在该集群中根目录下创建了一个KRBCDH目录用以标识

该认证集群已启用高可用,节点为:cdh3.fayson.com;cdh4.fayson.com

3

代码说明

1.这里主要使用的模块有hdfs,hdfs的第三方扩展包requests_kerberos以及subprocess:

代码语言:javascript
复制
pip install hdfs
pip install requests_kerberos
pip install subprocess

2.Python示例代码

代码语言:javascript
复制
import subprocess
import hdfs
from hdfs.ext.kerberos import KerberosClient
from hdfs import *
import os
import threading
import time

kt_cmd = 'kinit -kt /root/krbconf/hive.keytab hive@FAYSON.COM' #认证凭据
status = subprocess.call([kt_cmd], shell=True)

if status != 0:
print("kinit ERROR:")
print(subprocess.call([kt_cmd], shell=True))
exit()

noneclient=Client("http://cdh235.fayson.com:50070;http://cdh236.fayson.com:50070") #创建非认证集群客户端
krbclient=KerberosClient('http://cdh3.fayson.com:50070;http://cdh4.fayson.com:50070') #创建认证集群客户端

def listfiles(client,s):
for i in range(0,3):
time.sleep(s)
print threading.currentThread()
for path in client.list("/"):
print path
      print “********************************”
nonethread=threading.Thread(target=listfiles,args=(noneclient,3)) #创建访问非认证集群的线程
krbthread=threading.Thread(target=listfiles,args=(krbclient,4)) #创建访问认证集群的线程
nonethread.start()
krbthread.start()

3.示例代码运行验证

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2019-02-28,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 Hadoop实操 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
专用宿主机
专用宿主机(CVM Dedicated Host,CDH)提供用户独享的物理服务器资源,满足您资源独享、资源物理隔离、安全、合规需求。专用宿主机搭载了腾讯云虚拟化系统,购买之后,您可在其上灵活创建、管理多个自定义规格的云服务器实例,自主规划物理资源的使用。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档