Spark2.x学习笔记:15、Spark SQL的SQL

15、 Spark SQL的SQL

15.1 Spark SQL所支持的SQL语法

select [distinct] [column names]|[wildcard]
from tableName
[join clause tableName on join condition]
[where condition]
[group by column name]
[having conditions]
[order by column names [asc|desc]]

如果只用join进行查询,则支持的语法为:

select statement
from statement
[join | inner join | left join | left semi join | left outer join | right join |right outer join | full join | full outer join]
on join condition

15.2 Spark SQL的SQL的框架

15.3 与Hive Metastore结合

(1)Spark要能找到HDFS和Hive的配置文件

  • 第1种方法:可以直接将core-site.xml、hdfs-site.xml和hive-site.xml复制到Spark安装目录下的conf目录中。该方法存在一个缺陷,如果HDFS或Hive的配置修改了,则需要手动修改Spark对应的配置文件。
  • 第2种方法:在Spark配置文件中指定Hadoop配置文件目录

(2)Spark SQL与Hive Metastore结合,直接使用spark.sql(“select … from table where …”)

15.4 实例演示

(1)spark-shell

[root@node1 ~]# spark-shell
17/10/24 10:15:21 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
Spark context Web UI available at http://192.168.80.131:4040
Spark context available as 'sc' (master = local[*], app id = local-1508854525067).
Spark session available as 'spark'.
Welcome to
      ____              __
     / __/__  ___ _____/ /__
    _\ \/ _ \/ _ `/ __/  '_/
   /___/ .__/\_,_/_/ /_/\_\   version 2.2.0
      /_/

Using Scala version 2.11.8 (Java HotSpot(TM) 64-Bit Server VM, Java 1.8.0_112)
Type in expressions to have them evaluated.
Type :help for more information.

scala> spark.sql("show databases").show
+------------+
|databaseName|
+------------+
|     default|
|        test|
+------------+


scala> spark.sql("show tables").show
+--------+---------+-----------+
|database|tableName|isTemporary|
+--------+---------+-----------+
| default|  copyemp|      false|
| default|     demo|      false|
| default|     dept|      false|
| default|     dual|      false|
| default|      emp|      false|
| default|   empbak|      false|
| default|employees|      false|
| default|     mytb|      false|
| default|    users|      false|
+--------+---------+-----------+


scala> spark.sql("select * from emp").show
+----+------+---------+----+----------+------+------+----+
| eid| ename|      job| mgr|  hiredate|   sal|  comm| did|
+----+------+---------+----+----------+------+------+----+
|7782| CLARK|  MANAGER|7839|1981-06-09|2450.0|   0.0|  10|
|7839|  KING|PRESIDENT|   0|1981-11-17|5000.0|   0.0|  10|
|7934|MILLER|    CLERK|7782|1982-01-23|1300.0|   0.0|  10|
|7369| SMITH|    CLERK|7902|1980-12-17| 800.0|   0.0|  20|
|7566| JONES|  MANAGER|7839|1981-04-02|2975.0|   0.0|  20|
|7902|  FORD|  ANALYST|7566|1981-12-03|3000.0|   0.0|  20|
|7499| ALLEN| SALESMAN|7698|1981-02-20|1600.0| 300.0|  30|
|7521|  WARD| SALESMAN|7698|1981-02-22|1250.0| 500.0|  30|
|7654|MARTIN| SALESMAN|7698|1981-09-28|1250.0|1400.0|  30|
|7698| BLAKE|  MANAGER|7839|1981-05-01|2850.0|   0.0|  30|
|7844|TURNER| SALESMAN|7698|1981-09-08|1500.0|   0.0|  30|
|7900| JAMES|    CLERK|7698|1981-12-03| 950.0|   0.0|  30|
|8888|HADRON|     null|null|2016-08-31|6666.0|  null|null|
+----+------+---------+----+----------+------+------+----+


scala> 

(2)spark-sql

[root@node1 ~]# spark-sql
17/10/24 10:17:21 WARN NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
17/10/24 10:17:32 WARN ObjectStore: Version information not found in metastore. hive.metastore.schema.verification is not enabled so recording the schema version 1.2.0
17/10/24 10:17:32 WARN ObjectStore: Failed to get database default, returning NoSuchObjectException
spark-sql> show databases;
default
test
Time taken: 3.93 seconds, Fetched 2 row(s)
spark-sql> show tables;
default copyemp false
default demo    false
default dept    false
default dual    false
default emp false
default empbak  false
default employees   false
default mytb    false
default users   false
Time taken: 0.145 seconds, Fetched 9 row(s)
spark-sql> select * from emp;
7782    CLARK   MANAGER 7839    1981-06-09  2450.0  0.0 10
7839    KING    PRESIDENT   0   1981-11-17  5000.0  0.0 10
7934    MILLER  CLERK   7782    1982-01-23  1300.0  0.0 10
7369    SMITH   CLERK   7902    1980-12-17  800.0   0.0 20
7566    JONES   MANAGER 7839    1981-04-02  2975.0  0.0 20
7902    FORD    ANALYST 7566    1981-12-03  3000.0  0.0 20
7499    ALLEN   SALESMAN    7698    1981-02-20  1600.0  300.0   30
7521    WARD    SALESMAN    7698    1981-02-22  1250.0  500.0   30
7654    MARTIN  SALESMAN    7698    1981-09-28  1250.0  1400.0  30
7698    BLAKE   MANAGER 7839    1981-05-01  2850.0  0.0 30
7844    TURNER  SALESMAN    7698    1981-09-08  1500.0  0.0 30
7900    JAMES   CLERK   7698    1981-12-03  950.0   0.0 30
8888    HADRON  NULL    NULL    2016-08-31  6666.0  NULL    NULL
Time taken: 3.266 seconds, Fetched 13 row(s)
spark-sql> 

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏Java与Android技术栈

Scrypt 不止是加密算法,也是莱特币的挖矿算法

Scrypt不仅计算所需时间长,而且占用的内存也多,使得并行计算多个摘要异常困难,因此利用rainbow table进行暴力攻击更加困难。Scrypt 没有在生...

1094
来自专栏木木玲

Netty 那些事儿 ——— 关于 “Netty 发送大数据包时 触发写空闲超时” 的一些思考

4066
来自专栏Android 研究

Android系统启动——6 SystemServer启动

SystemServer是Android系统的核心之一,大部分Android提供的服务都运行在这个进程里,SystemServer中运行的服务总共有60多种。为...

1352
来自专栏林冠宏的技术文章

如何独立开发一个网络请求框架

(原创出处:https://cloud.tencent.com/developer/user/1148436/activities) 目录: 前言   准备...

16510
来自专栏androidBlog

Android AIDL 传递对象(Parceable)

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/gdutxiaoxu/article/de...

532
来自专栏一个会写诗的程序员的博客

《Springboot极简教程》 第11章 Springboot集成mongodb开发小结

本章我们通过SpringBoot集成mongodb,Java,Kotlin开发一个极简社区文章博客系统。

774
来自专栏JackieZheng

Spring Boot系列——7步集成RabbitMQ

RabbitMQ是一种我们经常使用的消息中间件,通过RabbitMQ可以帮助我们实现异步、削峰的目的。

913
来自专栏菩提树下的杨过

rpc框架之gRPC 学习 - hello world

grpc是google在github于2015年开源的一款RPC框架,虽然protobuf很早google就开源了,但是google一直没推出正式的开源框架,导...

5217
来自专栏Android开发经验

Volley从源码梳理主要工作流程简记

重点来了。 这里开启了一个缓存调度线程CacheDispatcher,一个网络请求调度线程NetworkDispatcher。

402
来自专栏androidBlog

Android 8.0(Android O) AccountManager 行为变更

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/gdutxiaoxu/article/details/...

590

扫码关注云+社区