我正在将.csv文件复制到s3桶中,我需要像在s3中那样加入它们。有可能这样做吗?我希望你们的伟大思想。=)
发布于 2014-03-11 15:36:58
您可以使用AWS数据管道和EMR来完成这一任务。
EMR支持CSV (和TSV)作为类型(这意味着,它将理解文件,并有能力将其视为具有数据行的表)。
您将把这些文件保存在一个S3桶中,然后将这个存储桶作为HDFS ()表挂载。一旦发生这种情况,您就可以发出单元查询(也可以是连接),并完成大多数您需要做的事情。
从现在开始我会给你指给医生看。您将需要花费一些时间来阅读和理解整个设置,但一旦掌握了它是非常方便的。http://docs.aws.amazon.com/datapipeline/latest/DeveloperGuide/dp-s3tos3hivecsv.html
https://stackoverflow.com/questions/22323533
复制相似问题