前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >14.3 Spark-SQL基于PostgreSQL数据分析编程实例

14.3 Spark-SQL基于PostgreSQL数据分析编程实例

作者头像
王小雷
发布2019-05-28 09:15:26
1.1K0
发布2019-05-28 09:15:26
举报
文章被收录于专栏:王小雷王小雷

14.3 Spark-SQL基于PostgreSQL数据分析编程实例

卜算子·大数据”一个开源、成体系的大数据学习教程。——每周日更新

本节主要内容:

Spark对PostgreSQL数据源数据的处理,通过Spark SQL对结构化数据进行数据分析。

  • 创建Gradle项目,引入依赖
  • 创建连接
  • 读数据库
  • 写数据库

完整源码Spark2PostgreSQL.java

完整项目源码

14.3.1 引入依赖

代码语言:javascript
复制
compile group: 'org.apache.spark', name: 'spark-core_2.11', version: '2.3.1'
compile group: 'org.apache.spark', name: 'spark-sql_2.11', version: '2.3.1'
compile group: 'org.postgresql', name: 'postgresql', version: '42.2.2'

14.3.2 创建Spark Session与数据库连接参数

代码语言:javascript
复制
SparkSession spark = SparkSession
        .builder()
        .appName("Java Spark SQL basic example")
//                .config("spark.some.config.option", "some-value")
        .getOrCreate();

Properties connectionProperties = new Properties();
connectionProperties.put("user", "busuanzi");
connectionProperties.put("password", "wxl123");

14.3.3 读取数据库

代码语言:javascript
复制
Dataset<Row> jdbcDF2 = spark.read()
        .jdbc("jdbc:postgresql://192.168.56.110:5432/busuanzidb", "public.top_projects", connectionProperties);

jdbcDF2.show();
这里写图片描述
这里写图片描述

14.3.4 写入数据库

代码语言:javascript
复制
myDF2.write()
        .mode(SaveMode.Append)
        .jdbc("jdbc:postgresql://192.168.56.110:5432/busuanzidb", "public.top_projects", connectionProperties);

查询数据库中,可见已经写入成功了。

这里写图片描述
这里写图片描述

14.3.5 Spark JOIN 操作

代码语言:javascript
复制
spark.sql("SELECT * FROM onev r JOIN twov s ON r.username = s.username")
        .show();
这里写图片描述
这里写图片描述

完整源码Spark2PostgreSQL.java

完整项目源码

14.3.5 IDEA 中运行参数设置

这里写图片描述
这里写图片描述
这里写图片描述
这里写图片描述

本节完成

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2018年07月15日,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 14.3 Spark-SQL基于PostgreSQL数据分析编程实例
    • 14.3.1 引入依赖
      • 14.3.2 创建Spark Session与数据库连接参数
        • 14.3.3 读取数据库
          • 14.3.4 写入数据库
            • 14.3.5 Spark JOIN 操作
              • 14.3.5 IDEA 中运行参数设置
              相关产品与服务
              数据库
              云数据库为企业提供了完善的关系型数据库、非关系型数据库、分析型数据库和数据库生态工具。您可以通过产品选择和组合搭建,轻松实现高可靠、高可用性、高性能等数据库需求。云数据库服务也可大幅减少您的运维工作量,更专注于业务发展,让企业一站式享受数据上云及分布式架构的技术红利!
              领券
              问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档