大家好,我是Maynor。相信大家和我一样,都有一个大厂梦
,作为一名资深大数据选手,深知SQL重要性,接下来我准备用100天时间,基于大数据岗面试中的经典SQL题
,以每日1题的形式,带你过一遍热门SQL题并给出恰如其分的解答。
一路走来,随着问题加深,发现不会的也愈来愈多。但底气着实足了不少,相信不少朋友和我一样,日积月累才是最有效的学习方式!
每次想省钱的时候,就是你智商到达顶峰之时
编写一个脚本,代码可用python或pyspark或scala(40分)
需求:cust_pft是客户(cust_if)每天(date)的资产净值(pft),现在需要获得每个客户近1年的最大回撤:
最大回撤定义:在该客户的净值曲线中,当出现最大的净值的时点记为m1,这之后出现的净值比m1那天净值相差最大的净值记为m2,最大回撤就是(m2-m1)/m1.(注意是出现最大净值之后的最小净值,两者的差)
create or replace temporary view cust_pft (cust_id,date,pft)
as values
(1,‘2021-01-01’,10000),
(1,‘2021-01-02’,10010),
(1,‘2021-01-03’,10020),
(1,‘2021-01-04’,9999),
(1,‘2021-01-05’,9998),
(1,‘2021-01-06’,10020),
(1,‘2021-12-27’,6000),
(1,‘2021-12-28’,6001),
(1,‘2021-12-29’,6002);
提高SQL功底的思路。 1、造数据。因为有数据支撑,会方便我们根据数据结果去不断调整SQL的写法。 造数据语法既可以create table再insert into,也可以用下面的create temporary view xx as values语句,更简单。 其中create temporary view xx as values语句,SparkSQL语法支持,hive不支持。 2、先将结果表画出来,包括结果字段名有哪些,数据量也画几条。这是分析他要什么。 从源表到结果表,一路可能要走多个步骤,其实就是可能需要多个子查询,过程多就用with as来重构提高可读性。 3、要由简单过度到复杂,不要一下子就写一个很复杂的。 先写简单的select from table…,每个中间步骤都执行打印结果,看是否符合预期, 根据中间结果,进一步调整修饰SQL语句,再执行,直到接近结果表。 4、数据量要小,工具要快,如果用hive,就设置set hive.exec.mode.local.auto=true;如果是SparkSQL,就设置合适的shuffle并行度,set spark.sql.shuffle.partitions=4;