Broadcast Variable

编程那点事

发布于 2023-02-25 15:47:25

2240

发布于 2023-02-25 15:47:25

Spark提供的Broadcast Variable，是只读的。并且在每个节点上只会有一份副本，而不会为每个task都拷贝一份副本。因此其最大作用，就是减少变量到各个节点的网络传输消耗，以及在各个节点上的内存消耗。此外，spark自己内部也使用了高效的广播算法来减少网络消耗。

可以通过调用SparkContext的broadcast()方法，来针对某个变量创建广播变量。然后在算子的函数内，使用到广播变量时，每个节点只会拷贝一份副本了。每个节点可以使用广播变量的value()方法获取值。记住，广播变量，是只读的。 val factor = 3 val factorBroadcast = sc.broadcast(factor)

val arr = Array(1, 2, 3, 4, 5) val rdd = sc.parallelize(arr) val multipleRdd = rdd.map(num => num * factorBroadcast.value())

multipleRdd.foreach(num => println(num))

Java版本案例

public class BroadcastVariable {

public static void main(String[] args) {

SparkConf conf = new SparkConf().setAppName("BroadcastVariable").setMaster("local");

JavaSparkContext sc = new JavaSparkContext(conf);

// 在java中，创建共享变量，就是调用SparkContext的broadcast()方法
// 获取的返回结果是Broadcast<T>类型
final int factor = 3;

final Broadcast<Integer> factorBroadcast = sc.broadcast(factor);

List<Integer> numberList = Arrays.asList(1, 2, 3, 4, 5);

JavaRDD<Integer> numbers = sc.parallelize(numberList);

// 让集合中的每个数字，都乘以外部定义的那个factor
JavaRDD<Integer> multipleNumbers = numbers.map(new Function<Integer, Integer>() {

private static final long serialVersionUID = 1L;

@Override
public Integer call(Integer v1) throws Exception {
// 使用共享变量时，调用其value()方法，即可获取其内部封装的值
int factor = factorBroadcast.value();
return v1 * factor;
}
});

multipleNumbers.foreach(new VoidFunction<Integer>() {

private static final long serialVersionUID = 1L;

@Override
public void call(Integer t) throws Exception {
System.out.println(t);  
}
});

sc.close();
}
}

Scala版本案例

object BroadcastVariable {

def main(args: Array[String]){

val conf = new SparkConf().setAppName("name").setMaster("local")

val sc = new SparkContext(conf)

val factor = 3

val factorBroadcast = sc.broadcast(factor)

val numberArray = Array(1,2,3,4,5)

val numbers = sc.parallelize(numberArray, 1)

val multipleNumbers = numbers.map { num => num * factorBroadcast.value }

multipleNumbers.foreach { num => println(num) }
}
}

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

原始发表：2019-02-21，如有侵权请联系 cloudcommunity@tencent.com 删除

编程算法