本篇作为scala快速入门系列的第十六篇博客,为大家带来的是关于函数式编程的相关内容。
我们将来使用Spark/Flink的大量业务代码都会使用到函数式编程。下面的这些操作是学习的重点。
foreach
)map
)flatmap
)filter
)exists
)sorted
、sortBy
、sortWith
)groupBy
)reduce
)fold
)之前,学习过了使用for表达式来遍历集合。我们接下来将学习scala的函数式编程,使用 foreach 方法来进行遍历、迭代。它可以让代码更加简洁。
方法签名
说明
foreach | API | 说明 |
---|---|---|
参数 | f: (A) ⇒ Unit | 接收一个函数对象。函数的输入参数为集合的元素,返回值为空 |
返回值 | Unit | 空 |
foreach执行过程
示例
有一个列表,包含以下元素1,2,3,4,请使用foreach方法遍历打印每个元素
参考代码
上述案例函数定义有点啰嗦,我们有更简洁的写法。因为使用foreach去迭代列表,而列表中的每个元素类型是确定的。
示例
参考代码
当函数参数,只在函数体中出现一次,而且函数体没有嵌套调用时,可以使用下划线来简化函数定义。
示例
参考代码
集合的映射操作是将来在编写Spark/Flink用得最多的操作,是我们必须要掌握的掌握。
因为进行数据计算的时候,就是一个将一种数据类型转换为另外一种数据类型的过程。
map方法接收一个函数,将这个函数应用到每一个元素,返回一个新的列表。
方法签名
方法解析
map方法 | API | 说明 |
---|---|---|
泛型 | [B] | 指定map方法最终返回的集合泛型 |
参数 | f: (A) ⇒ B | 传入一个函数对象该函数接收一个类型A(要转换的列表元素),返回值为类型B |
返回值 | TraversableOnce[B] | B类型的集合 |
map方法解析
案例一
参考代码
案例二
参考代码
扁平化映射也是将来用得非常多的操作,也是必须要掌握的。
可以把flatMap,理解为先map,然后再flatten
方法签名
方法解析
flatmap方法 | API | 说明 |
---|---|---|
泛型 | 【B】 | 最终要转换的集合元素类型 |
参数 | f: (A) ⇒ GenTraversableOnce[B] | 传入一个函数对象函数的参数是集合的元素函数的返回值是一个集合 |
返回值 | TraversableOnce[B] | B类型的集合 |
案例说明
思路分析
步骤
参考代码
使用flatMap简化操作 参考代码
过滤符合一定条件的元素
方法签名
方法解析
filter方法 | API | 说明 |
---|---|---|
参数 | p: (A) ⇒ Boolean | 传入一个函数对象接收一个集合类型的参数返回布尔类型,满足条件返回true, 不满足返回false |
返回值 | TraversableOnce[A] | 列表 |
案例
参考代码
在scala集合中,可以使用以下几种方式来进行排序。
示例
参考代码
根据传入的函数转换后,再进行排序。
方法声明
方法解析
示例
参考代码
自定义排序,根据一个函数来进行自定义排序。
方法声明
方法解析
soerWith方法 | API | 说明 |
---|---|---|
参数 | lt: (A, A) ⇒ Boolean | 传入一个比较大小的函数对象接收两个集合类型的元素参数返回两个元素大小,小于返回true,大于返回false |
返回值 | List[A] | 返回排序后的列表 |
示例
参考代码
使用下划线简写上述案例
参考代码
我们如果要将数据按照分组来进行统计分析,就需要使用到分组方法。
groupBy表示按照函数将列表分成不同的组。
方法签名
方法解析
groupBy方法 | API | 说明 |
---|---|---|
泛型 | [K] | 分组字段的类型 |
参数 | f: (A) ⇒ K | 传入一个函数对象接收集合元素类型的参数返回一个K类型的key,这个key会用来进行分组,相同的key放在一组中 |
返回值 | Map[K,List[A]] | 返回一个映射,K为分组字段,List为这个分组字段对应的一组数据 |
groupBy执行过程分析
示例
2.请按照性别进行分组,统计不同性别的学生人数
步骤
参考代码
聚合操作,可以将一个列表中的数据合并为一个。这种操作经常用来统计分析中。
reduce表示将列表,传入一个函数进行聚合计算。
定义
方法声明
方法解析
reduce方法 | API | 说明 |
---|---|---|
泛型 | [A1 >: A] | (下界)A1必须是集合元素类型的子类 |
参数 | op: (A1, A1) ⇒ A1 | 传入函数对象,用来不断进行聚合操作第一个A1类型参数为:当前聚合后的变量第二个A1类型参数为:当前要进行聚合的元素 |
返回值 | A1 | 列表最终聚合为一个元素 |
reduce执行流程分析
[!NOTE]
案例
参考代码
fold与reduce很像,但是多了一个指定初始化值参数。
方法签名
方法解析
reduce方法 | API | 说明 |
---|---|---|
泛型 | [A1 >: A] | (下界)A1必须是集合元素类型的子类 |
参数1 | z:A1 | 初始值 |
参数2 | op: (A1, A1) ⇒ A1 | 传入函数对象,用来不断进行折叠操作第一个A1类型参数为:当前折叠后的变量第二个A1类型参数为:当前要进行折叠的元素 |
返回值 | A1 | 列表最终折叠为一个元素 |
[!NOTE]
案例
参考代码
好了,到这里本次的分享就结束了。对scala感兴趣的朋友可以持续关注哟~