大家好,我是Maynor
。相信大家和我一样,都有一个大厂梦
,作为一名资深大数据选手,深知SQL重要性,接下来我准备用100天时间,基于大数据岗面试
中的经典题,以每日1题的形式,带你过一遍热门SQL题及恰如其分的解答。
一路走来,随着问题加深,发现不会的也愈来愈多。但底气着实足了不少,相信不少朋友和我一样,日积月累才是最有效的学习方式!
HiveSQL
题:我们有如下的用户访问数据
要求使用SQL统计出每个用户的累积访问次数,如下表所示:
用户id 月份 小计 累积
如何实现?
CREATE TABLE test_sql.test1 (
userId string, visitDate string, visitCount INT )
ROW format delimited FIELDS TERMINATED BY "\t";
INSERT INTO TABLE test_sql.test1
VALUES
( 'u01', '2017/1/21', 5 ),
( 'u02', '2017/1/23', 6 ),
( 'u03', '2017/1/22', 8 ),
( 'u04', '2017/1/20', 3 ),
( 'u01', '2017/1/23', 6 ),
( 'u01', '2017/2/21', 8 ),
( 'u02', '2017/1/23', 6 ),
( 'u01', '2017/2/22', 4 );
首先可以使用SQL的GROUP BY语句对用户ID和月份进行分组,然后使用SUM函数统计每组的访问次数。之后再使用SQL的Window函数,如sum() over()进行累积计算,并输出累积访问次数。最后按照用户ID和月份进行排序输出结果。
建议你先动脑思考,动手写一写再对照看下答案 参考答案适用HiveSQL,SparkSQL,FlinkSQL 即大数据组件,其他SQL需自行修改。
提高SQL功底的思路。 1、造数据。因为有数据支撑,会方便我们根据数据结果去不断调整SQL的写法。 造数据语法既可以create table再insert into,也可以用下面的create temporary view xx as values语句,更简单。 其中create temporary view xx as values语句,SparkSQL语法支持,hive不支持。 2、先将结果表画出来,包括结果字段名有哪些,数据量也画几条。这是分析他要什么。 从源表到结果表,一路可能要走多个步骤,其实就是可能需要多个子查询,过程多就用with as来重构提高可读性。 3、要由简单过度到复杂,不要一下子就写一个很复杂的。 先写简单的select * from table…,每个中间步骤都执行打印结果,看是否符合预期, 根据中间结果,进一步调整修饰SQL语句,再执行,直到接近结果表。 4、数据量要小,工具要快,如果用hive,就设置set hive.exec.mode.local.auto=true;如果是SparkSQL,就设置合适的shuffle并行度,set spark.sql.shuffle.partitions=4;
博客主页:https://manor.blog.csdn.net 本文由 Maynor 原创,首发于 CSDN博客 不能老盯着手机屏幕,要不时地抬起头,看看老板的位置⭐