我在文档中没有看到任何内容,但是是否有一种方法可以使用TBLPROPERTIES或Hive支持的DataFrame从Spark查询HiveDataFrame中的表?
发布于 2017-05-17 20:08:53
AFAIK您不能访问星火在其HiveMetastoreClient中使用的HiveSession。
但是,您可以实例化另一个--希望CLASSPATH是可以的,并且包含Hive JAR和包含Hadoop/Hive配置文件的目录,而且您没有Kerberos身份验证(或者您受益于火花驱动程序的隐式Hadoop,它自动处理Kerberos );所以这只是new HiveMetaStoreClient(new HiveConf())的问题。
然后,.getTable(...).getParameters()应该在Java Map中为您提供所需的TBLPROPERTIES。
https://stackoverflow.com/questions/44025764
复制相似问题