此次博主为大家带来的是Hive性能调优中的数据倾斜。
当input的文件都很大,任务逻辑复杂,map执行非常慢的时候,可以考虑增加Map数,来使得每个map处理的数据量减少,从而提高任务的执行效率。 增加map的方法为:根据computeSliteSize(Math.max(minSize,Math.min(maxSize,blocksize)))=blocksize=128M公式,调整maxSize最大值。让maxSize最大值低于blocksize就可以增加map的个数。
案例实操:
hive (default)> select count(*) from emp;
Hadoop job information for Stage-1: number of mappers: 1; number of reducers: 1
hive (default)> set mapreduce.input.fileinputformat.split.maxsize=100;
hive (default)> select count(*) from emp;
Hadoop job information for Stage-1: number of mappers: 6; number of reducers: 1
set hive.input.format= org.apache.hadoop.hive.ql.io.CombineHiveInputFormat;
在map-only任务结束时合并小文件,默认true
SET hive.merge.mapfiles = true;
在map-reduce任务结束时合并小文件,默认false
SET hive.merge.mapredfiles = true;
合并文件的大小,默认256M
SET hive.merge.size.per.task = 268435456;
当输出文件的平均大小小于该值时,启动一个独立的map-reduce任务进行文件merge
SET hive.merge.smallfiles.avgsize = 16777216;
hive.exec.reducers.bytes.per.reducer=256000000
hive.exec.reducers.max=1009
N=min(参数2,总输入数据量/参数1)
设置每个job的Reduce个数
set mapreduce.job.reduces = 15;
处理大数据量利用合适的reduce数;使单个reduce任务处理数据量大小要合适
。本次的分享就到这里了