我有以下数据集:
Movies : moviename, genre1, genre2, genre3 ..... genre19
(上述所有类型的值都为0或1,1表示电影属于该类型)
现在我想找出哪部电影的体裁最少?
我尝试了下面的猪脚本:
items = load 'path' using PigStorage('|') as (mName:chararray,g1:int,g2:int,g3:int,g4:int,g5:int,g6:int,g7:int,g8:int,g9:int,g10:int,g11:int,g12:int,g13:int,g14:int,g15:int,g16:int,g17:int,g18:int,g19:int);
sumGenre = foreach items generate mName, g1+g2+g3+g4+g5+g6+g7+g8+g9+g10+g11+g12+g13+g14+g15+g16+g17+g18+g19 as sumOfGenres;
groupAll = group sumGenre All;
在接下来的步骤中,通过使用MIN(sumGenre.sumofGenres),我可以得到一个类型,这是最小值,但我要寻找的是得到一个电影的名字,其中最少的不。以及那部电影的种类数量。
有人能帮忙吗?
发布于 2016-08-10 08:12:27
在groupAll
之后
r1 = minGenre = foreach groupAll generate MIN(sumGenre.sumOfGenres) as minG;
做左r1
minG
与sumGenre
sumOfGenres
之间的外连接;
以获得最少类型电影的名单..。
希望这会有帮助..。
对于动态行字段sum,可以像这样使用UDF。
public class DynRowSum extends EvalFunc<Integer>
{
public Integer exec(Tuple v) throws IOException
{
List<Object> olist = v.getAll();
int sum = 0;
int cnt=0;
for( Object o : olist){
cnt++;
if (cnt!=1) {
int val= (Integer)o;
sum = sum + val;
}
}
return new Integer(sum);
}
}
在pig中,像这样更新脚本。
grunt>sumGenre = foreach items generate mName,DynRowSum(*) as sumOfGenres;
如果体裁增加或减少代码保持不变,您将在这里获得优势。
发布于 2016-08-10 09:29:13
a = LOAD 'path';
b = FOREACH a generate FLATTEN(STRSPLIT($0, '\\|'));
c = FOREACH b generate $0 as movie, FLATTEN(TOBAG(*)) as genre;
d = FILTER c BY movie!=genre;
e = GROUP d BY $0;
f = FOREACH e GENERATE group, SUM(d);
i = ORDER f BY $1;
j = LIMIT i 1;
https://stackoverflow.com/questions/38875318
复制