CompletableFuture 让你的代码免受阻塞之苦
CompletableFuture 让你的代码免受阻塞之苦
前言
现在大部分的CPU都是多核，我们都知道想要提升我们应用程序的运行效率，就必须得充分利用多核CPU的计算能力；Java早已经为我们提供了多线程的API，但是实现方式略微麻烦，今天我们就来看看Java8在这方面提供的改善。
假设场景
现在你需要为在线教育平台提供一个查询用户详情的API，该接口需要返回用户的基本信息，标签信息，这两个信息存放在不同位置，需要远程调用来获取这两个信息；为了模拟远程调用，我们需要在代码里面延迟 1s;
public interface RemoteLoader {
String load();
default void delay() {
try {
Thread.sleep(1000L);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
public class CustomerInfoService implements RemoteLoader {
public String load() {
this.delay();
return "基本信息";
}
}
public class LearnRecordService implements RemoteLoader {
public String load() {
this.delay();
return "学习信息";
}
}同步方式实现版本
如果我们采用同步的方式来完成这个API接口，我们的实现代码：
@Test
public void testSync() {
long start = System.currentTimeMillis();
List<RemoteLoader> remoteLoaders = Arrays.asList(new CustomerInfoService(), new LearnRecordService());
List<String> customerDetail = remoteLoaders.stream().map(RemoteLoader::load).collect(toList());
System.out.println(customerDetail);
long end = System.currentTimeMillis();
System.out.println("总共花费时间:" + (end - start));
}不出所料，因为调用的两个接口都是延迟了 1s ，所以结果大于2秒
CompletableFuture 让你的代码免受阻塞之苦
Future实现的版本
接下来我们把这个例子用Java7提供的 Future 来实现异步的版本，看下效果如何呢？代码如下：
@Test
public void testFuture() {
long start = System.currentTimeMillis();
ExecutorService executorService = Executors.newFixedThreadPool(2);
List<RemoteLoader> remoteLoaders = Arrays.asList(new CustomerInfoService(), new LearnRecordService());
List<Future<String>> futures = remoteLoaders.stream()
.map(remoteLoader -> executorService.submit(remoteLoader::load))
.collect(toList());
List<String> customerDetail = futures.stream()
.map(future -> {
try {
return future.get();
} catch (InterruptedException | ExecutionException e) {
e.printStackTrace();
}
return null;
})
.filter(Objects::nonNull)
.collect(toList());
System.out.println(customerDetail);
long end = System.currentTimeMillis();
System.out.println("总共花费时间:" + (end - start));
}这次我们采用多线程的方式来改造了我们这个例子，结果还是比较满意的，时间大概花费了1s多一点
CompletableFuture 让你的代码免受阻塞之苦
注意：这里我分成了两个Stream，如何合在一起用同一个Stream，那么在用 future.get() 的时候会导致阻塞，相当于提交一个任务执行完后才提交下一个任务，这样达不到异步的效果
这里我们可以看到虽然 Future 达到了我们预期的效果，但是如果需要实现将两个异步的结果进行合并处理就稍微麻一些，这里就不细说，后面主要看下 CompletableFuture 在这方面的改进
Java8并行流
以上我们用的是Java8之前提供的方法来实现，接下来我们来看下Java8中提供的并行流来实习我们这个例子效果怎样呢？
@Test
public void testParallelStream() {
long start = System.currentTimeMillis();
List<RemoteLoader> remoteLoaders = Arrays.asList(new CustomerInfoService(), new LearnRecordService());
List<String> customerDetail = remoteLoaders.parallelStream().map(RemoteLoader::load).collect(toList());
System.out.println(customerDetail);
long end = System.currentTimeMillis();
System.out.println("总共花费时间:" + (end - start));
}运行的结果还是相当的满意，花费时间 1s 多点
CompletableFuture 让你的代码免受阻塞之苦
和Java8之前的实现对比，我们发现整个代码会更加的简洁；
接下来我们把我们的例子改变一下，查询用户详情的接口还需要返回视频观看记录，用户的标签信息，购买订单
public class WatchRecordService implements RemoteLoader {
@Override
public String load() {
this.delay();
return "观看记录";
}
}
public class OrderService implements RemoteLoader {
@Override
public String load() {
this.delay();
return "订单信息";
}
}
public class LabelService implements RemoteLoader {
@Override
public String load() {
this.delay();
return "标签信息";
}
}我们继续使用Java8提供的并行流来实现，看下运行的结果是否理想
@Test
public void testParallelStream2() {
long start = System.currentTimeMillis();
List<RemoteLoader> remoteLoaders = Arrays.asList(
new CustomerInfoService(),
new LearnRecordService(),
new LabelService(),
new OrderService(),
new WatchRecordService());
List<String> customerDetail = remoteLoaders.parallelStream().map(RemoteLoader::load).collect(toList());
System.out.println(customerDetail);
long end = System.currentTimeMillis();
System.out.println("总共花费时间:" + (end - start));
}但是这次运行的结果不是太理想，花费时间超过了2秒
CompletableFuture 让你的代码免受阻塞之苦
CompletableFuture
基本的用法
@Test
public void testCompletableFuture() {
CompletableFuture<String> future = new CompletableFuture<>();
new Thread(() -> {
doSomething();
future.complete("Finish"); //任务执行完成后 设置返回的结果
}).start();
System.out.println(future.join()); //获取任务线程返回的结果
}
private void doSomething() {
System.out.println("doSomething...");
}这种用法还有个问题，就是任务出现了异常，主线程会无感知，任务线程不会把异常给抛出来；这会导致主线程会一直等待，通常我们也需要知道出现了什么异常，做出对应的响应；改进的方式是在任务中try-catch所有的异常，然后调用 future.completeExceptionally(e) ，代码如下：
@Test
public void testCompletableFuture() throws ExecutionException, InterruptedException {
CompletableFuture<String> future = new CompletableFuture<>();
new Thread(() -> {
try {
doSomething();
future.complete("Finish");
} catch (Exception e) {
future.completeExceptionally(e);
}
}).start();
System.out.println(future.get());
}
private void doSomething() {
System.out.println("doSomething...");
throw new RuntimeException("Test Exception");
}从现在来看 CompletableFuture 的使用过程需要处理的事情很多，不太简洁，你会觉得看起来很麻烦；但是这只是表象，Java8其实对这个过程进行了封装，提供了很多简洁的操作方式；接下来我们看下如何改造上面的代码
@Test
public void testCompletableFuture2() throws ExecutionException, InterruptedException {
CompletableFuture<String> future = CompletableFuture.supplyAsync(() -> {
doSomething();
return "Finish";
});
System.out.println(future.get());
}这里我们采用了 supplyAsync ，这下看起来简洁了许多，世界都明亮了; Java8不仅提供允许任务返回结果的 supplyAsync ，还提供了没有返回值的 runAsync ；让我们可以更加的关注业务的开发，不需要处理异常错误的管理
CompletableFuture异常处理
如果说主线程需要关心任务到底发生了什么异常，需要对其作出相应操作，这个时候就需要用到 exceptionally
@Test
public void testCompletableFuture2() throws ExecutionException, InterruptedException {
CompletableFuture<String> future = CompletableFuture
.supplyAsync(() -> {
doSomething();
return "Finish";
})
.exceptionally(throwable -> "Throwable exception message:" + throwable.getMessage());
System.out.println(future.get());
}使用CompletableFuture来完成我们查询用户详情的API接口
@Test
public void testCompletableFuture3() throws ExecutionException, InterruptedException {
long start = System.currentTimeMillis();
List<RemoteLoader> remoteLoaders = Arrays.asList(
new CustomerInfoService(),
new LearnRecordService(),
new LabelService(),
new OrderService(),
new WatchRecordService());
List<CompletableFuture<String>> completableFutures = remoteLoaders
.stream()
.map(loader -> CompletableFuture.supplyAsync(loader::load))
.collect(toList());
List<String> customerDetail = completableFutures
.stream()
.map(CompletableFuture::join)
.collect(toList());
System.out.println(customerDetail);
long end = System.currentTimeMillis();
System.out.println("总共花费时间:" + (end - start));
}这里依然是采用的两个Stream来完成的，执行的结果如下：
CompletableFuture 让你的代码免受阻塞之苦
这个结果不太满意，和并行流的结果差不多，消耗时间 2秒多点；在这种场景下我们用CompletableFuture 做了这么多工作，但是效果不理想，难道就有没有其他的方式可以让它在快一点吗？
为了解决这个问题，我们必须深入了解下并行流和 CompletableFuture 的实现原理，它们底层使用的线程池的大小都是CPU的核数 Runtime.getRuntime().availableProcessors() ；那么我们来尝试一下修改线程池的大小，看看效果如何？
自定义线程池，优化CompletableFuture
使用并行流无法自定义线程池，但是 CompletableFuture 可以
@Test
public void testCompletableFuture4() throws ExecutionException, InterruptedException {
long start = System.currentTimeMillis();
List<RemoteLoader> remoteLoaders = Arrays.asList(
new CustomerInfoService(),
new LearnRecordService(),
new LabelService(),
new OrderService(),
new WatchRecordService());
ExecutorService executorService = Executors.newFixedThreadPool(Math.min(remoteLoaders.size(), 50));
List<CompletableFuture<String>> completableFutures = remoteLoaders
.stream()
.map(loader -> CompletableFuture.supplyAsync(loader::load, executorService))
.collect(toList());
List<String> customerDetail = completableFutures
.stream()
.map(CompletableFuture::join)
.collect(toList());
System.out.println(customerDetail);
long end = System.currentTimeMillis();
System.out.println("总共花费时间:" + (end - start));
}我们使用自定义线程池，设置最大的线程池数量50，来看下执行的结果
CompletableFuture 让你的代码免受阻塞之苦
这下执行的结果比较满意了，1秒多点；理论上来说这个结果可以一直持续，直到达到线程池的大小50
并行流和 CompletableFuture 两者该如何选择
这两者如何选择主要看任务类型，建议
CompletableFutureCompletableFuture 的其他常用方法
- thenApply、thenApplyAsync: 假如任务执行完成后，还需要后续的操作，比如返回结果的解析等等；可以通过这两个方法来完成
- thenCompose、thenComposeAsync: 允许你对两个异步操作进行流水线的操作，当第一个操作完成后，将其结果传入到第二个操作中
- thenCombine、thenCombineAsync：允许你把两个异步的操作整合；比如把第一个和第二个操作返回的结果做字符串的连接操作
总结
CompletableFuture
CompletableFuture