前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >Spark(4)——transformation、action、persist

Spark(4)——transformation、action、persist

作者头像
gzq大数据
发布2020-11-11 17:04:34
4750
发布2020-11-11 17:04:34
举报
文章被收录于专栏:大数据那些事大数据那些事

RDD数据是不可变的:

在这里插入图片描述
在这里插入图片描述

transformation

将一个RDD变成一个新的RDD’ 比如mapreduce中的map操作,将数据集里的元素做处理变成新的元素,形成RDD’。transformation是不会立刻将结果算出来的,相当于把你的意图记下来,最后还要经过action这样的刺激才会返回计算结果。如下几个算子属于transformation操作: (1)map(func)操作,上图已经用到 (2)filter(func)操作,将满足函数的元素返回true值并保存,不满足的过滤掉 (3)flatMap(func)操作,先将元素进行map,再把所得到的所有元素变成一个对象: <1>flatMap

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

<2>map

在这里插入图片描述
在这里插入图片描述

对比可以看出,map出来的还是两个对象,而flatMap出来的对象只有一个。 (4)union、intersection 求两个RDD之间的并集与交集 (5)groupByKey 将元组中的第0个元素当做key,进行分组

action

就像上面所说的transformation,它是惰性的,必须要有一个东西刺激它才会出结果,action就派上了用场,如下也有一些action算子: (1)collect (2)reduce (3)first

persisit

此操作将数据缓存在内存或者磁盘上。 其实还有一些算子没有列出,欢迎大家补充指正

本文参与 腾讯云自媒体分享计划,分享自作者个人站点/博客。
原始发表:2020-10-15 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • transformation
  • action
  • persisit
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档