前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >SQL DML:数据导入&导出

SQL DML:数据导入&导出

作者头像
十里桃花舞丶
发布2021-09-10 11:13:58
7200
发布2021-09-10 11:13:58
举报
文章被收录于专栏:桥路_大数据

SQL DML:数据导入&导出

数据导入

数据预处理

将文件导入到Hive中,需要文件编码格式为UTF-8,\n为换行符,否则就需要进行预处理。处理过程分为两部分:编码格式、换行符。

编码格式处理

对于中文字符,如果是ASCii码,或者其它编码,则在Hive表中无法正确显示。

首先可以使用file命令提前查看文件编码类型和换行符情况。

代码语言:javascript
复制
file $filename

如果编码不是UTF-8,则需要进行编码转换。转换方式可以在建表前,提前对文件进行转码处理;也可以不对文件进行处理,在表中指定文件编码格式。

对文件提前进行转码处理,可以使用iconv工具进行:

代码语言:javascript
复制
# iconv是转码工具,-f源编码格式,-t目标编码格式
iconv -f gbk -t utf-8 $sourceFile > $targetFile

如果不对文件进行提前的转码处理,可以在表中指定文件的编码格式:

代码语言:javascript
复制
ALTER TABLE <tableName> SET SERDEPROPERTIES('serialization'='GBK');
换行符处理

在不同操作系统中,文件默认的换行符会有所不同。Windows文件用\r\n换行,而Unix和Linux文件用\n换行。Windows文件直接导入到Hive表中时,最后一列数据因为多了’

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2021/08/18 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • SQL DML:数据导入&导出
    • 数据导入
      • 数据预处理
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档