专栏首页大数据-Hadoop、SparkHive的安装与使用-1

Hive的安装与使用-1

1.下载tar包,在客户端窗口上执行 wget -c http://archive.cloudera.com/cdh5/cdh/5/hive-1.1.0-cdh5.7.0.tar.gz 2.解压到app目录下 tar -zxvf hive-1.1.0-cdh5.7.0.tar.gz -C ~/app 3.配置~/.bash_profile

export HIVE_HOME=/home/hadoop/app/hive-1.1.0-cdh5.7.0
export PATH=$HIVE_HOME/bin:$PATH

4.环境配置

cd hive-1.1.0-cdh5.7.0/conf/
cp hive-env.sh.template hive-env.sh
vi hive-env.sh
# Set HADOOP_HOME to point to a specific hadoop install directory
# HADOOP_HOME=${bin}/../../hadoop

  HADOOP_HOME=/home/hadoop/app/hadoop-2.6.0-cdh5.7.0

5.安装mysql,yum install mysql-xxx 6.配置hive-site.xml文件

<configuration>
<property>
        <name>javax.jdo.option.ConnectionURL</name>
        <value>jdbc:mysql://hadoop000:3306/sparksql?createDatabaseIfNotExist=true</value>

</property>
<property>
        <name>javax.jdo.option.ConnectionDriverName</name>
        <value>com.mysql.jdbc.Driver</value>
        <description>Driver class name for a JDBC metastore</description>
</property>
<property>
        <name>javax.jdo.option.ConnectionUserName</name>
        <value>root</value>
        <description>username to use against metastore database</description>
</property>
<property>
        <name>javax.jdo.option.ConnectionPassword</name>
        <value>root</value>
        <description>password to use against metastore database</description>
</property>

</configuration>

7.拷贝数据库驱动到hive-1.1.0-cdh5.7.0/lib目录下 cp /home/hadoop/software/mysql-connector-java-5.1.27-bin.jar 8.启动hive,bin/hive

image.png

9.到mysql数据库里查看sparksql

mysql> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| azkaban            |
| hive               |
| mysql              |
| spark              |
| sparksql           |
| sqoop              |
| ss                 |
| test               |
+--------------------+
9 rows in set (0.00 sec)

mysql> use sparksql
Database changed
mysql> show tables;
+---------------------------+
| Tables_in_sparksql        |
+---------------------------+
| BUCKETING_COLS            |
| CDS                       |
| COLUMNS_V2                |
| DATABASE_PARAMS           |
| DBS                       |
| FUNCS                     |
| FUNC_RU                   |
| GLOBAL_PRIVS              |
| PARTITIONS                |
| PARTITION_KEYS            |
| PARTITION_KEY_VALS        |
| PART_COL_STATS            |
| ROLES                     |
| SDS                       |
| SEQUENCE_TABLE            |
| SERDES                    |
| SKEWED_COL_NAMES          |
| SKEWED_COL_VALUE_LOC_MAP  |
| SKEWED_STRING_LIST        |
| SKEWED_STRING_LIST_VALUES |
| SKEWED_VALUES             |
| SORT_COLS                 |
| TAB_COL_STATS             |
| TBLS                      |
| VERSION                   |
+---------------------------+
25 rows in set (0.00 sec)

10.在Hive中建表, create table hive_count(context string ); 报错:

FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. MetaException(message:For direct MetaStore DB connections, we don't support retries at the client level.)

解决:

这是由于字符集的问题,需要配置MySQL的字符集: mysql> alter database hive character set latin1;

11.建好表以后,查看sparksql里的TBLSCOLUMNS_V2

image.png

12.查看hive官方文档

https://cwiki.apache.org/confluence/display/Hive/LanguageManual+DML#LanguageManualDML-Loadingfilesintotables 从外部文件加载数据

LOAD DATA [LOCAL] INPATH 'filepath' [OVERWRITE] INTO TABLE tablename [PARTITION (partcol1=val1, partcol2=val2 ...)]

13.在/home/hadoop/data/data.log下面有外部数据,把它导入到hive表里 LOAD DATA LOCAL INPATH '/home/hadoop/data/data.log' INTO TABLE hive_count;

14.select下结果:

image.png

15.hive ql提交执行后生成MR作业,并在yarn上运行。

select word,count(1) from hive_count lateral view explode(split(context,'\t')) wc as word group by word;

lateral view explode(split(context,'\t')) :把每行记录按照指定分割符进行分解。

16.确认结果

image.png

yarn页面,

http://hostname:8088/cluster/apps

image.png

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Hive安装使用中的一些问题

    1.非root用户连接mysql服务时,报如下错误, ERROR 2002 (HY000): Can't connect to local MySQL serv...

    sparkle123
  • hive bucket

    hive中table可以拆分成partition, table和partition可以通过CLUSTERED BY 进一步分bucket,bucket中的数据...

    sparkle123
  • Linux本地Yum源制作

    操作之前准备好以下环境: VMWare Workstation SecureCRT CentOS-6.7-x86_64-minimal.iso //用来...

    sparkle123
  • Apache Hive-2.3.0 快速搭建与使用

    Hive 简介 Hive 是一个基于 hadoop 的开源数据仓库工具,用于存储和处理海量结构化数据。它把海量数据存储于 hadoop 文件系统,而不是数据库,...

    搜云库
  • Spring boot with Apache Hive

    本文节选自《Netkiller Database 手札》 5.26. Spring boot with Apache Hive 5.26.1. Maven ...

    netkiller old
  • Neo4j-1.7 SET子句

    悠扬前奏
  • tf.variable和tf.get_Variable以及tf.name_scope和tf.variable_scope的区别

    在训练深度网络时,为了减少需要训练参数的个数(比如具有simase结构的LSTM模型)、或是多机多卡并行化训练大数据大模型(比如数据并行化)等情况时,往往需要共...

    郭耀华
  • oracle数据库 如何查询某个表的约束条件

    使用下面语句从all_constraints视图中查看某表上的约束: SELECT constraint_name, table_name, r_owner...

    cloudskyme
  • python 遍历目录

    names = [name for name in os.listdir('somedir') if os.path.isfile(os.path.join(...

    用户5760343
  • 树莓派人脸识别门禁系统图文教程

    前面发布了人脸识别门禁系统的系列视频教程,现在补上图文版,方便查看指令和代码,这篇文章也是对之前的文章的更新与完善。

    小雨编程

扫码关注云+社区

领取腾讯云代金券