我正在尝试加载文件的数据从2015年至2020年在火星雨。我使用正则表达式。
所有正则表达式都在在线站点上检查。然而,当我在火星雨中使用它们时,它会显示错误。看起来hdfs不喜欢括号。我试过不同的变体
# .load("hdfs:///data/ghcnd/daily/20(1[5-9]|20).csv.gz")
# .load("hdfs:///data/ghcnd/daily/20(15|16|17|18|19|20).csv.gz")如何正确地编写它们,以便从2015年到2020年从文件中加载数据?
发布于 2020-04-02 23:43:15
尝试使用大括号{}并保留所有的值。
.load("hdfs:///data/ghcnd/daily/2020{15,16,17}.csv.gz")Example:
读取2015,2016文件
spark.read.csv("/tmp/20{15,16}.csv").show()
#+----+
#| _c0|
#+----+
#|2015|
#|2016|
#+----+
$cat 2015.csv
2015
$cat 2016.csv
2016https://stackoverflow.com/questions/61002865
复制相似问题