首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

cdh hive配置mysql

基础概念

CDH(Cloudera Distribution Including Apache Hadoop)是基于Apache Hadoop的一个发行版,提供了大数据处理的一系列工具和服务。Hive是基于Hadoop的数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供类SQL查询功能。

MySQL是一个关系型数据库管理系统,常用于存储结构化数据。

配置Hive使用MySQL作为元数据存储

优势

  1. 持久化存储:相比默认的Derby数据库,MySQL提供了更稳定和持久的元数据存储。
  2. 并发支持:MySQL能够更好地支持多用户并发访问。
  3. 扩展性:MySQL的扩展性和性能通常优于Derby。

类型

  1. 内嵌模式:Hive使用内嵌的Derby数据库存储元数据,仅支持单个会话。
  2. 本地模式:Hive使用本地的MySQL数据库存储元数据,支持多会话。
  3. 远程模式:Hive的元数据存储在远程MySQL服务器上。

应用场景

当需要处理大量数据,并且有多个用户同时访问Hive时,建议使用MySQL作为元数据存储。

配置步骤

  1. 安装MySQL
  2. 在所有Hive节点上安装MySQL服务器。
  3. 在所有Hive节点上安装MySQL服务器。
  4. 配置MySQL
  5. 启动MySQL服务并设置root用户密码。
  6. 启动MySQL服务并设置root用户密码。
  7. 创建一个新的数据库用于Hive元数据存储。
  8. 创建一个新的数据库用于Hive元数据存储。
  9. 授予Hive用户访问权限。
  10. 授予Hive用户访问权限。
  11. 配置Hive
  12. 编辑Hive配置文件hive-site.xml,添加以下配置项:
  13. 编辑Hive配置文件hive-site.xml,添加以下配置项:
  14. 初始化Hive元数据
  15. 使用schematool工具初始化MySQL中的Hive元数据。
  16. 使用schematool工具初始化MySQL中的Hive元数据。

常见问题及解决方法

问题:无法连接到MySQL服务器

原因

  • MySQL服务器未启动。
  • 配置文件中的连接信息错误。
  • 防火墙阻止了连接。

解决方法

  1. 确保MySQL服务器已启动并运行。
  2. 确保MySQL服务器已启动并运行。
  3. 检查hive-site.xml中的连接信息是否正确。
  4. 检查防火墙设置,确保允许MySQL端口(默认3306)的连接。

问题:权限不足

原因

  • MySQL用户没有足够的权限访问Hive元数据数据库。

解决方法

  1. 登录MySQL并授予相应的权限。
  2. 登录MySQL并授予相应的权限。

参考链接

通过以上步骤,你应该能够成功配置Hive使用MySQL作为元数据存储。如果在配置过程中遇到其他问题,请参考相关文档或社区支持。

页面内容是否对你有帮助?
有帮助
没帮助

相关·内容

Hive初步使用、安装MySQL 、Hive配置MetaStore、配置Hive日志《二》

OK,退出Mysql之后在重新登录一下,登录成功! 三、Hive配置metastore    首先进入到Hive的安装目录中 /opt/moudles/hive-.....    ...创建一个文件 hive-site.xml 想里面配置连接Mysql的数据信息 账号 密码 连接地址 、驱动(这个驱动需要拷贝过来) 配置好后执行一下 bin/hive 在mysql数据库中可以看见 hive给自动创建的数据库 ?   查看一下这个数据库中的表 ?...upper ; # 测试这个函数 select id ,upper(name) uname from db_hive.student ; 五、配置Hive的日志   将Hive安装目录中conf下的...修改Hive日志的存放地址,(在Hive的安装目录中创建logs文件夹用来存放日志,然后配置 hive-log4j.properties 中的 hive.log.dir hive.log.threshold

83740
  • HIVE的安装部署

    第三步:修改 hive 的配置文件 第四步:上传 MySQL 的 lib 驱动包 第五步:将安装包发送给其他两个节点 第六步:配置hive的环境变量 第七步:把hive环境变量发送给其他节点 第八步:...mysql //使用mysql数据库 use mysql; //配置远程连接 grant all privileges on *.* to 'root'@'%' identified by '123456...第三步:修改 hive 的配置文件 **修改 hive-env.sh ** //添加我们的hadoop的环境变量: cd /export/servers/hive-1.1.0-cdh5.14.0/conf...上传 MySQL 的 lib 驱动包 //将mysql的lib驱动包上传到hive的lib目录下 cd /export/servers/hive-1.1.0-cdh5.14.0/lib //将mysql-connector-java...r /export/servers/hive-1.1.0-cdh5.14.0/ node0:$PWD 第六步:配置hive的环境变量 vi hive.sh export HIVE_HOME=/export

    1.4K20

    如何在CDH集群中安装Hive2.3.3

    Fayson的github:https://github.com/fayson/cdhproject 提示:代码块部分可以左右滑动查看噢 1.文档编写目的 ---- 本篇文章主要介绍如何在CDH集群中配置及部署...Hive2.3.3版本的服务,在配置及部署Hive2服务的同时不停用CDH集群默认的Hive服务。...内容概述 1.环境准备 2.配置及部署Hive2.3.3服务 3.Hive2.3.3服务启动及功能验证 测试环境 1.CM和CDH版本为5.14.3 2.Hive的版本为2.3.3 3.操作系统版本为RedHat7.4...3.选择使用MySQL作为Hive2的元数据库,在MySQL中创Hive2的数据库及访问用户 CREATE DATABASE hive2metastore DEFAULT CHARACTER SET UTF8...2.安装MySQL的JDBC驱动 [root@ip-172-31-5-171 hive-2.3.3]# cp /usr/share/java/mysql-connector-java-5.1.34.jar

    4.1K40

    MacOS 下hive的安装与配置

    /cdh5/cdh/5/ Hive:hive-1.1.0-cdh5.7.0.tar.gz, 下载地址:http://archive.cloudera.com/cdh5/cdh/5/ MySQL...因此,MySQL的安装并不是必要的,但为了深入学习,我们还是选择安装。 Hive安装与配置 1.解压安装包 ?...3.修改hive的配置文件 我们需要修改在HIVE_HOME/conf下的两个文件,分别是hive-env.sh和hive-site.xml。...修改hive-env.sh 我们使用的这个版本没有hive-site.xml的模板,我从网上找了一个,然后将自己的配置添加进去,你可以复制下面的代码,修改为自己的配置。具体配置和注释如下: hive的配置就基本结束了。hive的启动非常简单。在任意的路径下输入hive即可。但是在此之前必须先启动HADOOP(包括HDFS和YARN)。

    1.4K10

    扫码

    添加站长 进交流群

    领取专属 10元无门槛券

    手把手带您无忧上云

    扫码加入开发者社群

    相关资讯

    热门标签

    活动推荐

      运营活动

      活动名称
      广告关闭
      领券